| # Benchmark regressor ablation |
|
|
| ## Po co jest ablation |
| Celem jest sprawdzenie, czy regresor SCORE wnosi stabilną wartość ponad classifier-only adaptive. |
|
|
| ## Warianty |
| 1. `classifier_only_no_fallback` |
| 2. `classifier_only_union_fallback` |
| 3. `classifier_regressor_no_fallback` |
| 4. `classifier_regressor_union_fallback` |
| 5. `cluster_only_triage` |
| 6. `diverse_random_cost_balanced` |
| 7. `single_fidelity_cost_balanced` |
|
|
| ## Co porównujemy |
| - best filtered score |
| - top5 mean filtered score |
| - top10 mean filtered score |
| - reduction fraction |
| - total runs spent |
| - optional recall, jeśli `reference_mode=sampled` |
|
|
| ## Fixed regressor |
| Domyślny regresor: |
| - nazwa: `fixed_score_regressor_v1` |
| - target: `component_sane_affinity_like` |
|
|
| To znaczy, że model uczy się nie surowego `SCORE`, ale przekształconego targetu o poprawnym znaku, zgodnym z tym że niższy `SCORE` oznacza lepszy wynik. |
|
|
| ## Jak sprawdzamy znak regresora |
| Liczone są między innymi: |
| - `Spearman(predicted_score, observed_score)` |
| - `Spearman(-predicted_score, observed_score)` |
| - `Spearman(predicted_score, -observed_score)` |
| - `Spearman(predicted_affinity_like, observed_affinity_like)` |
|
|
| Jeżeli poprawny znak nie daje dodatniego sygnału, regresor nie jest uznawany za przydatny. |
|
|
| ## Kiedy regresor zostaje |
| Regresor zostaje tylko wtedy, gdy: |
| - poprawia `top5_mean_filtered_score` |
| - poprawia `top10_mean_filtered_score` |
| - poprawa jest stabilna na seedach |
| - nie psuje znacząco redukcji lub kosztu |
|
|
| Jeżeli poprawia tylko pojedynczy best hit: |
| - `REGRESSOR_NOT_PROVEN_USEFUL` |
|
|
| Jeżeli poprawia top-k stabilnie: |
| - `REGRESSOR_ADDS_VALUE` |
|
|
| ## Jak czytać wykresy |
| - `ablation_best_score_by_strategy.png`: najlepszy pojedynczy hit |
| - `ablation_top5_mean_by_strategy.png`: jakość top-5 |
| - `ablation_top10_mean_by_strategy.png`: jakość top-10 |
| - `ablation_reduction_vs_top10.png`: tradeoff koszt vs jakość |
| - `regressor_predicted_vs_observed.png`: czy regresor ma poprawny trend |
| - `regressor_target_comparison_spearman.png`: czy znak i target są sensowne |
|
|
