{ "benchmark_name": "LegalBench-ID", "version": "1.0.0", "publisher": "Dahono Labs (PT Dahono Consulting Agency)", "curator": "Armiko Dahono", "contact": "armiko@dahono.com", "website": "https://dahono.com", "zenodo_doi": "10.5281/zenodo.22758561", "license": "Apache-2.0", "total_test_samples": 700, "test_splits": { "text_reasoning": 500, "multimodal_document_vision": 200 }, "supported_languages": ["id"], "description": "LegalBench-ID adalah suite tolok ukur (benchmark) terbuka dan berdaulat pertama di Indonesia yang dirancang khusus untuk mengukur kapabilitas Large Language Models (LLM) dalam penalaran hukum positif Indonesia, keselarasan hierarki perundang-undangan, presisi sitasi pasal, resistensi terhadap halusinasi regulasi fiktif, serta audit visual dokumen hukum (multimodal).", "dimensions": [ { "code": "TASK_01_HIERARCHY", "name": "Tata Urutan Perundang-Undangan & Asas Yuridis", "description": "Menguji pemahaman hierarki regulasi sesuai UU No. 12 Tahun 2011 jo. UU No. 13 Tahun 2022 serta asas-asas hukum (Lex Superior, Lex Specialis, Lex Posterior, Pacta Sunt Servanda).", "metric": "Doctrinal Accuracy & Hierarchy Alignment" }, { "code": "TASK_02_CONTRACT", "name": "Hukum Kontrak & Perikatan Bisnis", "description": "Menguji analisis keabsahan perjanjian (Pasal 1320 KUHPerdata), cacat kehendak (dwang, dwaling, bedrog), perbedaan wanprestasi vs PMH (Pasal 1365), dan fungsi somasi.", "metric": "Doctrinal Accuracy & Citation Precision" }, { "code": "TASK_03_LABOR", "name": "Hukum Ketenagakerjaan & Hubungan Industrial", "description": "Menguji penguasaan regulasi ketenagakerjaan (PP No. 35 Tahun 2021, UU No. 13/2003 jo. UU No. 6/2023), larangan probation pada PKWT, kompensasi pemutusan kerja, dan hak upah.", "metric": "Doctrinal Accuracy & Statutory Compliance" }, { "code": "TASK_04_CORPORATE", "name": "Hukum Perseroan Terbatas & Tata Kelola Perusahaan", "description": "Menguji analisis organ perseroan (UU No. 40 Tahun 2007), doktrin Piercing the Corporate Veil, Fiduciary Duty direksi, dan batas tanggung jawab pemegang saham.", "metric": "Doctrinal Accuracy & Corporate Law Principles" }, { "code": "TASK_05_PRIVACY_PDP", "name": "Perlindungan Data Pribadi & Hukum Siber", "description": "Menguji implementasi UU No. 27 Tahun 2022 (UU PDP), prinsip pemrosesan data, transfer lintas batas, kewajiban Pengendali Data, dan sanksi administratif.", "metric": "Doctrinal Accuracy & Cross-Statutory Compliance" }, { "code": "TASK_06_CRIMINAL", "name": "Hukum Pidana & Transisi Kodifikasi Nasional", "description": "Menguji analisis tindak pidana, pertanggungjawaban korporasi, asas legalitas, asas Ne Bis In Idem (Pasal 76 KUHP), dan harmonisasi KUHP lama (WvS) vs KUHP Baru (UU No. 1 Tahun 2023).", "metric": "Doctrinal Accuracy & Statutory Transition" }, { "code": "TASK_07_PROCEDURAL", "name": "Hukum Acara & Hukum Pembuktian", "description": "Menguji pemahaman hukum acara perdata (HIR/RBg) dan pidana (KUHAP), keabsahan 5 alat bukti perdata (Pasal 1866 KUHPerdata), eksekusi jaminan fidusia, dan hak ingkar.", "metric": "Procedural Correctness & Evidentiary Standard" }, { "code": "TASK_08_ANTI_HALLUCINATION", "name": "Resistensi Terhadap Regulasi Fiktif & Jebakan Halusinasi", "description": "Menguji kejujuran epistemik model dalam menolak nomor pasal fiktif, undang-undang palsu, atau istilah doktrinal rekaan (misal: 'Pasal 9999 KUHP' atau 'UU Teleportasi').", "metric": "Epistemic Honesty & Hallucination Rejection Rate" }, { "code": "TASK_09_CITATION_PRECISION", "name": "Presisi Sitasi Regulasi & Nomor Pasal", "description": "Mengukur akurasi format nomenklatur, nomor undang-undang, tahun pengesahan, pasal, dan ayat tanpa improvisasi teks yang keliru.", "metric": "Strict & Fuzzy Citation Precision" }, { "code": "TASK_10_LEGAL_PURITY", "name": "Kemurnian Bahasa Yuridis Indonesia & Istilah Serapan", "description": "Mengukur kebersihan respon dari kebocoran bahasa Inggris percakapan, sekaligus memvalidasi penggunaan istilah serapan resmi Latin dan Belanda hukum.", "metric": "Indonesian Legal Purity Score" } ], "rubric_formula": { "composite_legal_score": "Doctrinal * (0.60 + 0.40 * Citation) * (0.80 + 0.20 * Purity) * (0.80 + 0.20 * CoT)" } }