halilneed/turkish-bseby-classification-benchmark

Türkçe BSEBY Veri Sınıfı Benchmark'ı

Türkçe metinde kişisel veri, hassas veri ve sır kapsamında veri (müşteri sırrı, banka sırrı) bulunup bulunmadığını ölçen çok etiketli değerlendirme seti. BSEBY md. 6/6 bankaların verilerini bu üç ölçüte göre sınıflandırmasını ister. Tamamı kurgusaldır; gerçek kişi, gerçek banka, gerçek şirket ya da gerçek numara içermez.

Metin	750 (all_annotations)
Altın set	747 (default, iki etiketleyicinin birebir uzlaştığı metinler)
Etiketsiz (hiçbir sınıf yok)	163
Etiket başına örnek (altın set)	kisisel_veri 328 · musteri_sirri 306 · banka_sirri 157 · hassas_veri 83 · ozel_nitelikli 57
Tüzel kişi dilimi (müşteri sırrı var, kişisel veri yok)	128
Metin uzunluğu	ortalama 222, ortanca 148 karakter

Nasıl oluşturuldu

1. Yazım: iki yazar, herhangi bir eğitim verisine bakmadan, yalnızca etiket kılavuzundan yola çıkarak 375'er metin yazdı ve etiketledi. Biri bireysel bankacılık, müşteri teması ve doğrulama verisine; diğeri kurumsal bankacılık, bankanın iç dünyası (yönetim, risk, denetim, hazine) ve BT/güvenliğe ağırlık verdi. Biçimler: sohbet mesajı, SMS, e-posta, çağrı merkezi notu, CRM kaydı, komite tutanağı, denetim bulgusu, kredi teklif özeti, yapılandırma parçası, log satırı, haber cümlesi. Resmî ve gündelik dil, yazım hataları, BÜYÜK HARF, Türkçe karaktersiz metinler.
2. Zor örnekler bilinçli eklendi: sınırın iki yanından eşleşen çiftler (açıklanmış / açıklanmamış finansal sonuç; banka / fabrika yönetim kurulu kararı; sistem parolası / kişi parolası; müşteri olan / yalnızca haberde geçen şirket), yanıltıcı sözcükler ("hesap" = sosyal medya hesabı, "kart" = mağaza kartı), "GİZLİ" damgalı ama kamuya açık içerik, toplulaştırılmış iç metrikler.
3. Kör ikinci etiketleme: aynı metinler, ilk etiketleri görmeyen ikinci bir etiketleyici tarafından aynı kılavuzla yeniden etiketlendi.
4. Altın set: iki etiket kümesinin birebir aynı olduğu 747 metin. Uyuşmayan 3 metin all_annotations içinde iki etiketiyle duruyor.

Metinler ve iki etiketleme bir dil modeliyle (Claude) üretildi ve otomatik denetimlerden geçirildi (geçerli etiket, tekil id, gerçek banka/şirket adı ve gerçek alan adı taraması); insan tarafından satır satır doğrulanmadı. %99,6'lık birebir uzlaşma, aynı modelin aynı kılavuzu tutarlı uyguladığını gösterir; iki bağımsız insanın uzlaşması olarak okunmamalıdır.

Etiketler ve kurallar

Etiket	Kapsam	Dayanak
kisisel_veri	belirli bir gerçek kişiye (adı geçmese bile: "müşteri", "hasta") ait herhangi bir bilgi	KVKK md. 3; BSEBY md. 6/3
ozel_nitelikli	sağlık, biyometrik, genetik, din, siyasi görüş, etnik köken, ceza mahkûmiyeti, sendika/dernek üyeliği, cinsel hayat, kılık kıyafet	KVKK md. 6
hassas_veri	değeri metinde bulunan parola, PIN, tek kullanımlık parola, CVV, tam kart numarası, güvenlik sorusu cevabı, oturum belirteci	BSEBY md. 3/1-o
musteri_sirri	belirli bir gerçek ya da tüzel kişinin bir bankayla ilişkisinden doğan bilgi (hesap, kredi, kart, limit, işlem, teminat, kredi notu) ve müşteri olduğunu gösteren her bilgi	Sır Yönetmeliği md. 4/3-4
banka_sirri	bankanın kendisine ait, kamuya açıklanmamış bilgi: strateji, açıklanmamış sonuç, iç limit ve politika, denetim bulgusu, komite kararı, sistem bilgisi ve sistem kimlik bilgileri	Sır Yönetmeliği md. 5/5

BSEBY: RG 15/3/2020-31069. Sır Yönetmeliği: RG 4/6/2021-31501.

Sınır kuralları:

• Tüzel kişinin bilgisi kisisel_veri değildir. "Müşteri" tek başına gerçek kişi sayılır; metin şirketi gösteriyorsa (firma, A.Ş., kurumsal müşteri) sayılmaz.
• hassas_veri için değer metinde bulunmalıdır; maskeli değer, kural ve uyarı metni işaretlenmez. Kişinin doğrulama verisi sahibine (müşteri, çalışan) bakılmadan işaretlenir. Sistem/servis hesabı kimlik bilgisi banka_sirridir.
• Anne kızlık soyadı, TCKN, kullanıcı adı kimliği bildirir, doğrulamaz: hassas_veri değildir (BSEBY md. 34/10). Anne kızlık soyadı yalnızca metin onu açıkça doğrulama cevabı olarak kullanıyorsa işaretlenir.
• IBAN, hesap no ve tam kart numarası banka bağlamı açık olmasa da musteri_sirridir.
• Banka dışı müşteri ilişkisi (e-ticaret, telekom, sigorta, kargo) ve bankacılık içeriği taşımayan borç/icra metni musteri_sirri değildir. Toplulaştırılmış veri musteri_sirri değildir.
• Yalnızca doğrulama verisinin iletimi ya da kaydından ibaret metin (OTP SMS'i) ayrıca musteri_sirri almaz; müşterinin banka kanalındaki bir olayını anlatan metin alır.
• banka_sirri: kamuya açık bilgi (ilan edilmiş tarife, KAP açıklaması, faaliyet raporu), mevzuat ve genel kural anlatımı, kuruma özgü parametre içermeyen politika metni işaretlenmez. Kurum açıkça banka dışıysa (fabrika, hastane) işaretlenmez; belirsizse banka varsayılır.

Örnekler:

Metin	Etiket
müşterinin kredi başvurusu gelir belgesi eksik olduğu için reddedildi	kisisel_veri musteri_sirri
Akdeniz Gıda A.Ş.'nin nakdi limiti 40 milyon TL'ye çıkarıldı	musteri_sirri
abonenin son üç faturası ödenmemiş, hat kapatılacak	kisisel_veri
internet şubesi parolanız: Kp!7731x, kimseyle paylaşmayın	kisisel_veri hassas_veri
parolanız en az 8 karakter olmalı ve bir rakam içermelidir	—
core banking prod DB servis hesabı: svc_cb / Xr9!mQ2	banka_sirri
ihtiyaç kredisi faiz oranımız 1 Ekim itibarıyla %3,49'dur	—

Biçim

{"id": "b0001", "text": "...", "labels": ["kisisel_veri", "musteri_sirri"]}

all_annotations: {"id", "text", "labels_a", "labels_b", "agreed"}. b0… id'leri birinci, b1… id'leri ikinci yazarın metinleridir.

from datasets import load_dataset
ds = load_dataset("halilneed/turkish-bseby-classification-benchmark", split="test")

Önerilen metrikler

Etiket bazlı P/R/F1, micro- ve macro-F1, tam eşleşme ve üç türetilmiş ölçüm: sır var mı (musteri_sirri ∪ banka_sirri), korunacak veri var mı (herhangi bir etiket), tüzel kişi dilimi (altın etikette musteri_sirri var ve kisisel_veri yok; model ikisini de doğru vermeli).

Model	micro-F1	macro-F1	Sır var mı P / R	Tüzel dilim	Tam eşleşme
halilneed/turkish-bseby-classifier	0.944	0.939	0.970 / 0.963	0.859	0.892

Sınırlar

• Kurgusal ve dil modeliyle üretilmiş metinlerdir; gerçek banka metinlerinin dağılımını birebir yansıtmaz.
• Yönetmelikler bu sınıfları işlevsel tanımlar ve banka sırrını ayrıca tanımlamaz; yukarıdaki sınır kuralları bir yorumdur. Bankanın kendi varlık sınıflandırma kılavuzu (BSEBY md. 6/5) farklı çizebilir.
• Hukuki nitelendirme değildir.

Lisans: CC0 1.0 — serbestçe kullanın, kopyalayın, değiştirin.