data/task_taxonomy.json

{
  "benchmark_name": "LegalBench-ID",
  "version": "1.0.0",
  "publisher": "Dahono Labs (PT Dahono Consulting Agency)",
  "curator": "Armiko Dahono",
  "contact": "armiko@dahono.com",
  "website": "https://dahono.com",
  "zenodo_doi": "10.5281/zenodo.22758561",
  "license": "Apache-2.0",
  "total_test_samples": 700,
  "test_splits": {
    "text_reasoning": 500,
    "multimodal_document_vision": 200
  },
  "supported_languages": ["id"],
  "description": "LegalBench-ID adalah suite tolok ukur (benchmark) terbuka dan berdaulat pertama di Indonesia yang dirancang khusus untuk mengukur kapabilitas Large Language Models (LLM) dalam penalaran hukum positif Indonesia, keselarasan hierarki perundang-undangan, presisi sitasi pasal, resistensi terhadap halusinasi regulasi fiktif, serta audit visual dokumen hukum (multimodal).",
  "dimensions": [
    {
      "code": "TASK_01_HIERARCHY",
      "name": "Tata Urutan Perundang-Undangan & Asas Yuridis",
      "description": "Menguji pemahaman hierarki regulasi sesuai UU No. 12 Tahun 2011 jo. UU No. 13 Tahun 2022 serta asas-asas hukum (Lex Superior, Lex Specialis, Lex Posterior, Pacta Sunt Servanda).",
      "metric": "Doctrinal Accuracy & Hierarchy Alignment"
    },
    {
      "code": "TASK_02_CONTRACT",
      "name": "Hukum Kontrak & Perikatan Bisnis",
      "description": "Menguji analisis keabsahan perjanjian (Pasal 1320 KUHPerdata), cacat kehendak (dwang, dwaling, bedrog), perbedaan wanprestasi vs PMH (Pasal 1365), dan fungsi somasi.",
      "metric": "Doctrinal Accuracy & Citation Precision"
    },
    {
      "code": "TASK_03_LABOR",
      "name": "Hukum Ketenagakerjaan & Hubungan Industrial",
      "description": "Menguji penguasaan regulasi ketenagakerjaan (PP No. 35 Tahun 2021, UU No. 13/2003 jo. UU No. 6/2023), larangan probation pada PKWT, kompensasi pemutusan kerja, dan hak upah.",
      "metric": "Doctrinal Accuracy & Statutory Compliance"
    },
    {
      "code": "TASK_04_CORPORATE",
      "name": "Hukum Perseroan Terbatas & Tata Kelola Perusahaan",
      "description": "Menguji analisis organ perseroan (UU No. 40 Tahun 2007), doktrin Piercing the Corporate Veil, Fiduciary Duty direksi, dan batas tanggung jawab pemegang saham.",
      "metric": "Doctrinal Accuracy & Corporate Law Principles"
    },
    {
      "code": "TASK_05_PRIVACY_PDP",
      "name": "Perlindungan Data Pribadi & Hukum Siber",
      "description": "Menguji implementasi UU No. 27 Tahun 2022 (UU PDP), prinsip pemrosesan data, transfer lintas batas, kewajiban Pengendali Data, dan sanksi administratif.",
      "metric": "Doctrinal Accuracy & Cross-Statutory Compliance"
    },
    {
      "code": "TASK_06_CRIMINAL",
      "name": "Hukum Pidana & Transisi Kodifikasi Nasional",
      "description": "Menguji analisis tindak pidana, pertanggungjawaban korporasi, asas legalitas, asas Ne Bis In Idem (Pasal 76 KUHP), dan harmonisasi KUHP lama (WvS) vs KUHP Baru (UU No. 1 Tahun 2023).",
      "metric": "Doctrinal Accuracy & Statutory Transition"
    },
    {
      "code": "TASK_07_PROCEDURAL",
      "name": "Hukum Acara & Hukum Pembuktian",
      "description": "Menguji pemahaman hukum acara perdata (HIR/RBg) dan pidana (KUHAP), keabsahan 5 alat bukti perdata (Pasal 1866 KUHPerdata), eksekusi jaminan fidusia, dan hak ingkar.",
      "metric": "Procedural Correctness & Evidentiary Standard"
    },
    {
      "code": "TASK_08_ANTI_HALLUCINATION",
      "name": "Resistensi Terhadap Regulasi Fiktif & Jebakan Halusinasi",
      "description": "Menguji kejujuran epistemik model dalam menolak nomor pasal fiktif, undang-undang palsu, atau istilah doktrinal rekaan (misal: 'Pasal 9999 KUHP' atau 'UU Teleportasi').",
      "metric": "Epistemic Honesty & Hallucination Rejection Rate"
    },
    {
      "code": "TASK_09_CITATION_PRECISION",
      "name": "Presisi Sitasi Regulasi & Nomor Pasal",
      "description": "Mengukur akurasi format nomenklatur, nomor undang-undang, tahun pengesahan, pasal, dan ayat tanpa improvisasi teks yang keliru.",
      "metric": "Strict & Fuzzy Citation Precision"
    },
    {
      "code": "TASK_10_LEGAL_PURITY",
      "name": "Kemurnian Bahasa Yuridis Indonesia & Istilah Serapan",
      "description": "Mengukur kebersihan respon dari kebocoran bahasa Inggris percakapan, sekaligus memvalidasi penggunaan istilah serapan resmi Latin dan Belanda hukum.",
      "metric": "Indonesian Legal Purity Score"
    }
  ],
  "rubric_formula": {
    "composite_legal_score": "Doctrinal * (0.60 + 0.40 * Citation) * (0.80 + 0.20 * Purity) * (0.80 + 0.20 * CoT)"
  }
}