FintoolDataset-TR doğrulanmış veri sürümü

README.md

@@ -0,0 +1,202 @@
+---
+pretty_name: FintoolDataset-TR
+language:
+- tr
+license: other
+task_categories:
+- text-generation
+tags:
+- turkce
+- finans
+- arac-cagirma
+- yapay-zeka
+- function-calling
+- tool-use
+- agentic
+- synthetic
+- mcp
+- financial-safety
+- multi-turn
+size_categories:
+- 1K<n<10K
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: train.jsonl
+  - split: validation
+    path: validation.jsonl
+  - split: test
+    path: test.jsonl
+---
+# FintoolDataset-TR
+
+
+FintoolDataset-TR'yi Türkçe finans alanında araç seçimi, araç çağırmama, eksik bilgiyi
+netleştirme, hata kurtarma ve güvenli finansal etkileşim davranışlarını öğretmek için
+hazırladım. Veri setini yalnızca doğru araç çağrısını üretmeye değil, **araç çağırmaması
+gereken durumu da ayırt etmeye** odakladım.
+
+Bu sürümde yalnızca anlamsal incelemeden geçirilip kabul edilen kayıtları yayımladım.
+Yerel kürasyon durumu, reddedilen adaylar, hata raporları ve iç üst veri eğitim
+satırlarına dahil değildir.
+
+## Veri setinin özeti
+
+| Veri bölümü | Kayıt |
+|---|---:|
+| Eğitim | 1.389 |
+| Doğrulama | 160 |
+| Test | 185 |
+
+Her JSONL satırı yalnızca şu üç alanı taşır:
+
+```json
+{
+  "id": "TRFIN-single_tool-0001",
+  "messages": [],
+  "tools": []
+}
+```
+
+- `id`: Kayıt kimliği.
+- `messages`: OpenAI uyumlu `system`, `user`, `assistant` ve gerektiğinde `tool`
+  rollerindeki mesajlar.
+- `tools`: O kayıtta modele sunulan işlev/araç tanımları ve ham JSON Şemaları.
+
+## Davranış dağılımı
+
+| Türkçe davranış | Teknik kimlik | Kayıt | Öğretmek istediğim davranış |
+|---|---|---:|---|
+| Tek araç çağrısı | `single_tool` | 100 | Tek doğru aracı ve geçerli argümanları seçme |
+| Finans kavramı | `finance_concept` | 100 | Zamandan bağımsız finans kavramını araçsız açıklama |
+| Araç var ama gereksiz | `tool_available_but_unnecessary` | 100 | Araç sunulsa bile gereksiz çağrı yapmama |
+| Basit hesaplama | `simple_calculation` | 100 | İstemdeki sayılarla harici veri kullanmadan hesaplama |
+| Eksik bilgiyi netleştirme | `clarification` | 130 | Eksik sembol, tarih, tutar, vade veya ölçütü sorma |
+| Web araması | `web_search` | 136 | Güncel vergi, mevzuat ve banka koşullarını resmî kaynaktan arama |
+| Güvenlik onayı | `security_confirmation` | 100 | Para veya hesap durumunu değiştiren işlemden önce açık onay isteme |
+| Uygun araç yok | `no_suitable_tool` | 130 | Uygun araç yoksa araç veya başarı uydurmama |
+| Görülmemiş araç şeması | `unseen_tool_schema` | 100 | Ezberlenmemiş araç adını açıklama ve şemasından çözme |
+| Benzer araç seçimi | `similar_tool_selection` | 100 | Birbirine benzeyen araçlar arasından en özel olanı seçme |
+| Paralel araçlar | `parallel_tools` | 100 | Bağımsız çağrıları aynı asistan turunda birlikte üretme |
+| Yeniden deneme | `tool_retry` | 100 | Yeniden denenebilir hatadan kontrollü biçimde kurtulma |
+| Araç hatasını bildirme | `tool_failure_report` | 100 | Kalıcı hatayı saklamadan kullanıcıya bildirme |
+| Güncelliğini yitirmiş sonuç | `stale_result` | 100 | Eski sonucu güncelmiş gibi sunmama |
+| Kaynak çatışması | `source_conflict` | 100 | Çelişen kaynakları belirtip belirsizliği koruma |
+| Doğal dil yanıtı | `natural_language_answer` | 138 | Araç sonucunu ham JSON yerine doğal Türkçe cevaba dönüştürme |
+
+## Bu davranışları neden seçtim?
+### 1. Doğru aracı seçme
+
+Tek araç çağrısı, benzer araç seçimi, görülmemiş araç şeması ve paralel araç
+davranışlarıyla (`single_tool`, `similar_tool_selection`, `unseen_tool_schema`,
+`parallel_tools`) modelin yalnızca araç adını ezberlemesini değil, açıklamayı ve JSON
+Şemasını okuyarak karar vermesini hedefledim.
+### 2. Gerektiğinde araç çağırmama
+
+Finans kavramı, gereksiz aracı reddetme, basit hesaplama, eksik bilgiyi netleştirme ve
+uygun araç yok davranışlarını (`finance_concept`, `tool_available_but_unnecessary`,
+`simple_calculation`, `clarification`, `no_suitable_tool`) özellikle ekledim. Böylece
+modelin her finans sorusunu otomatik olarak bir araç çağrısına çevirmesini engellemeyi;
+eksik bilgiyi tahmin etmek yerine sormasını ve sunulmayan bir yeteneği uydurmamasını için kullandım.
+
+### 3. Yanlış veya güvenilmez araç çıktılarıyla başa çıkma
+
+Veri setine yalnızca başarılı sonuçlar koymadım. Araç kullanan gerçek sistemlerde çağrılar
+zaman aşımına uğrayabilir, kalıcı hata verebilir, eski veri döndürebilir veya başka bir
+kaynakla çelişebilir. Bu nedenle şu kontrollü hata davranışlarını ekledim:
+
+- Yeniden deneme (`tool_retry`): Hata gerçekten yeniden denenebilirse ikinci çağrıyı üretme.
+- Araç hatasını bildirme (`tool_failure_report`): Yetki, lisans veya kalıcı servis
+  hatasında sonuç uydurmama.
+- Güncelliğini yitirmiş sonuç (`stale_result`): Zaman damgası eski olan sonucu güncel
+  fiyat gibi aktarmama.
+- Kaynak çatışması (`source_conflict`): Piyasa aracı ile resmî kaynak uyuşmadığında
+  çatışmayı gizlememe.
+
+Bu kayıtların amacı modele “araç sonucu geldiyse doğrudur” varsayımından kurtarmak ve
+sonucun hata, güncellik, birim ve kaynak bilgisini değerlendirmeyi öğretmektir.
+
+### 4. Finansal güvenlik
+
+`security_confirmation` kayıtlarıyla transfer, emir, iptal ve hesap değişikliği gibi yan
+etkili işlemlerde açık kullanıcı onayını zorunlu tuttum. PIN, CVV, OTP, parola, uygulama
+programlama arayüzü anahtarı veya kurtarma ifadesi isteyen kayıtları kabul etmedim. Güncel
+fiyat, vergi, mevzuat ve banka koşullarının araçla doğrulanmasını şart koştum. (şuanlık elzem değil gelecek planlarım çercevesinde ekledim)
+
+## Kullandığım araç kapsamı
+
+Güncel olarak kapsamlı olmasından dolayı ana finans araçlarını BorsaMCP kataloğundaki 23 şemadan aldım.
+
+- Güncel resmî bilgi için `web_search` şeması kullandım.
+- Şema genellemesini ölçmek için farklı ad ve parametre yapılarına sahip kontrollü araçlar
+  ekledim.
+- Uygun aracın bulunmadığı örneklerde gerçekçi fakat yetersiz çeldirici araçlar sundum.
+- Yeniden deneme, kalıcı hata, güncelliğini yitirmiş sonuç ve kaynak çatışması için
+  kontrollü araç sonuçları oluşturdum.
+
+Araç ve parametre adlarını çevirmedim; bunları çalışma zamanı sözleşmesinin parçası olarak
+korudum. Yalnızca kullanıcıya dönük açıklamaları Türkçeleştirdim. (main borsaMCP şemaları İngilizce olduğu için)
+
+## Veri üretim hattı
+
+Bu veri setini aşağıdaki denetlenebilir üretim hattıyla hazırladım:
+
+1. `Dbmaxwell/turkish-finance-instruction-dataset` kaynağını
+   `c5f4d777daf5b1b3c869084f3921724665c2b4ce` revizyonuna sabitledim.
+2. Finans sorularını 16 ana davranıştan tam birine sınıflandırdım.
+3. Belirlenimci başlangıç, hesaplama ve çok turlu araç kullanımı kayıtları oluşturdum.
+4. BorsaMCP için gerçek araç şemalarını ve doğrulanmış canlı çağrı sonuçlarını kullandım.
+5. Çeşitlilik açığı bulunan eksik bilgiyi netleştirme (`clarification`), uygun araç yok
+   (`no_suitable_tool`) ve web araması (`web_search`) davranışları için yapılandırılmış
+   yapay zekâ veri üretim modeliyle 96 ek kayıt ürettim.
+6. Araç çağrılarını sunulan ham JSON Şemalarına karşı doğruladım.
+7. Finansal güvenlik, güncellik, kaynak çatışması, Türkçe kalite ve davranış uyumunu
+   anlamsal olarak inceledim.
+8. Yalnızca anlamsal inceleme sonrası kabul edilen (`accepted`) kayıtları dışa aktardım.
+9. Aynı grup kimliğini (`group_id`) tek veri bölümünde tutarak yeniden ifade sızıntısını
+   engelledim.
+
+## Doğrulama
+
+Bu sürümü yayıma hazırlarken aşağıdaki kontrolleri sağladım:
+
+- 3.538 aday üzerinde Pydantic konuşma değişmezleri ve JSON Şeması kontrolü
+- Boş koleksiyon hatası listesi
+- 1.734 kabul edilmiş, 12 reddedilmiş ve 1.792 anlamsal inceleme bekleyen aday
+- 45 başarılı test
+- Ruff biçim ve kod kalite kontrolü
+- UTF-8 karakter bozulması kontrolü
+- Dışa aktarımı iki kez üretip aynı SHA-256 sonuçlarını alma
+- Her dışa aktarım satırında yalnızca `id`, `messages`, `tools` alanlarının bulunması
+
+Yapısal olarak geçerli (`valid`) durumu yalnızca otomatik doğrulamayı, kabul edilmiş
+(`accepted`) durumu ise anlamsal inceleme sonrası eğitim çıktısına kabulü ifade eder.
+İnceleme bekleyen kayıtları bu pakete dahil etmedim.
+
+## Kullanım
+
+```python
+from datasets import load_dataset
+
+dataset = load_dataset("Dbmaxwell/FintoolDataset-tr")
+print(dataset["train"][0])
+```
+
+Modelin sohbet şablonu OpenAI uyumlu `messages` ve `tools` alanlarını doğrudan
+kullanmıyorsa eğitim öncesinde hedef modelin sohbet şablonu biçimine
+dönüştürmek gerekir.
+
+
+## Kısıtlar
+
+- Kayıtların önemli bölümü sentetiktir; gerçek kullanıcı konuşması dağılımını birebir
+  temsil etmez.
+- Kontrollü hata sonuçları gerçek bir servis olayının birebir kopyası değildir; hata
+  davranışını öğretmek için oluşturulmuştur.
+- Veri seti yatırım tavsiyesi, güncel piyasa verisi veya hukuki/vergi görüşü değildir.
+- Güncel bilgi isteyen örneklerde cevap yerine araç çağrısı hedeflenmiştir.
+- Araç kapsamı ve Türkçe finans odağı, genel amaçlı araç kullanan sistem performansını
+  garanti etmez.
+- Kayıtlardaki IBAN, hesap, kart, e-posta ve kişi adları sentetik örneklerdir; gerçek
+  müşteri verisi içermez.

manifest.json

@@ -0,0 +1,14 @@
+{
+  "project": "Finetool-TR",
+  "schema": [
+    "id",
+    "messages",
+    "tools"
+  ],
+  "source_revision": "c5f4d777daf5b1b3c869084f3921724665c2b4ce",
+  "counts": {
+    "train": 1389,
+    "validation": 160,
+    "test": 185
+  }
+}

push_to_hub.py

@@ -0,0 +1,230 @@
+#!/usr/bin/env python3
+"""Validate this release directory and upload it to a Hugging Face dataset repository."""
+
+from __future__ import annotations
+
+import argparse
+import hashlib
+import json
+import re
+from collections import Counter
+from pathlib import Path
+from typing import Any
+
+_SPLITS = ("train", "validation", "test")
+_SCHEMA = ["id", "messages", "tools"]
+_UPLOAD_FILES = (
+    "README.md",
+    "manifest.json",
+    "train.jsonl",
+    "validation.jsonl",
+    "test.jsonl",
+    "push_to_hub.py",
+    "requirements.txt",
+)
+_DEFAULT_RELEASE_DIR = Path(__file__).resolve().parent
+
+
+def _read_object(path: Path) -> dict[str, Any]:
+    value = json.loads(path.read_text(encoding="utf-8"))
+    if not isinstance(value, dict):
+        raise ValueError(f"JSON nesnesi bekleniyordu: {path}")
+    return value
+
+
+def _validate_message_shape(record_id: str, messages: object, tools: object) -> None:
+    if not isinstance(messages, list) or len(messages) < 2:
+        raise ValueError(f"{record_id}: messages en az iki öğe içermeli")
+    if not isinstance(tools, list):
+        raise ValueError(f"{record_id}: tools dizi olmalı")
+
+    offered: set[str] = set()
+    for tool in tools:
+        if not isinstance(tool, dict) or tool.get("type") != "function":
+            raise ValueError(f"{record_id}: geçersiz tool tanımı")
+        function = tool.get("function")
+        if not isinstance(function, dict) or not isinstance(function.get("name"), str):
+            raise ValueError(f"{record_id}: tool function/name eksik")
+        offered.add(function["name"])
+
+    seen_call_ids: set[str] = set()
+    has_user = False
+    for message in messages:
+        if not isinstance(message, dict):
+            raise ValueError(f"{record_id}: message nesne olmalı")
+        role = message.get("role")
+        if role not in {"system", "user", "assistant", "tool"}:
+            raise ValueError(f"{record_id}: geçersiz message role: {role}")
+        has_user = has_user or role == "user"
+        for call in message.get("tool_calls") or []:
+            function = call.get("function") if isinstance(call, dict) else None
+            if not isinstance(function, dict) or function.get("name") not in offered:
+                raise ValueError(f"{record_id}: sunulmayan tool çağrısı")
+            if not isinstance(function.get("arguments", {}), dict):
+                raise ValueError(f"{record_id}: tool arguments nesne olmalı")
+            call_id = call.get("id")
+            if call_id:
+                if call_id in seen_call_ids:
+                    raise ValueError(f"{record_id}: yinelenen tool call id: {call_id}")
+                seen_call_ids.add(call_id)
+        if role == "tool" and message.get("tool_call_id") not in seen_call_ids:
+            raise ValueError(f"{record_id}: bilinmeyen tool_call_id sonucu")
+
+    if not has_user:
+        raise ValueError(f"{record_id}: user mesajı yok")
+    if messages[-1].get("role") != "assistant":
+        raise ValueError(f"{record_id}: son mesaj assistant olmalı")
+
+
+def _format_count(value: int) -> str:
+    return f"{value:,}".replace(",", ".")
+
+
+def _validate_readme(readme: str, counts: dict[str, int], behavior_counts: Counter[str]) -> None:
+    labels = {"train": "Eğitim", "validation": "Doğrulama", "test": "Test"}
+    for split, label in labels.items():
+        row = f"| {label} | {_format_count(counts[split])} |"
+        if row not in readme:
+            raise ValueError(f"README veri bölümü sayısı güncel değil: {row}")
+
+    total_match = re.search(r"\|\s*\*\*Toplam\*\*\s*\|\s*\*\*([^*]+)\*\*\s*\|", readme)
+    expected_total = _format_count(sum(counts.values()))
+    if total_match and total_match.group(1).strip() != expected_total:
+        raise ValueError(f"README toplam sayısı güncel değil: {expected_total}")
+
+    for behavior, count in behavior_counts.items():
+        pattern = (
+            rf"\|\s*[^|\n]+\s*\|\s*`{re.escape(behavior)}`\s*\|\s*"
+            rf"{_format_count(count)}\s*\|"
+        )
+        if not re.search(pattern, readme):
+            raise ValueError(
+                f"README davranış sayısı güncel değil: {behavior}={_format_count(count)}"
+            )
+
+
+def validate_release(release_dir: Path) -> dict[str, Any]:
+    """Fail closed before any network request."""
+    missing = [name for name in _UPLOAD_FILES if not (release_dir / name).is_file()]
+    if missing:
+        raise FileNotFoundError(f"Eksik yayın dosyaları: {', '.join(missing)}")
+
+    manifest = _read_object(release_dir / "manifest.json")
+    if manifest.get("schema") != _SCHEMA:
+        raise ValueError(f"Manifest şeması tam olarak {_SCHEMA} olmalı")
+    expected_counts = manifest.get("counts")
+    if not isinstance(expected_counts, dict) or set(expected_counts) != set(_SPLITS):
+        raise ValueError(f"Manifest counts yalnızca {_SPLITS} splitlerini içermeli")
+
+    seen_ids: set[str] = set()
+    actual_counts: dict[str, int] = {}
+    hashes: dict[str, str] = {}
+    behavior_counts: Counter[str] = Counter()
+    for split in _SPLITS:
+        path = release_dir / f"{split}.jsonl"
+        digest = hashlib.sha256()
+        count = 0
+        with path.open("rb") as stream:
+            for line_number, raw_line in enumerate(stream, start=1):
+                digest.update(raw_line)
+                if not raw_line.strip():
+                    raise ValueError(f"{path}:{line_number}: boş satır")
+                row = json.loads(raw_line)
+                if not isinstance(row, dict) or list(row) != _SCHEMA:
+                    raise ValueError(f"{path}:{line_number}: alanlar tam olarak {_SCHEMA} olmalı")
+                record_id = row["id"]
+                if not isinstance(record_id, str) or not record_id.startswith("TRFIN-"):
+                    raise ValueError(f"{path}:{line_number}: geçersiz id")
+                if record_id in seen_ids:
+                    raise ValueError(f"Splitler arasında yinelenen id: {record_id}")
+                seen_ids.add(record_id)
+                behavior = record_id.removeprefix("TRFIN-").rsplit("-", 1)[0]
+                behavior_counts[behavior] += 1
+                _validate_message_shape(record_id, row["messages"], row["tools"])
+                count += 1
+        actual_counts[split] = count
+        hashes[path.name] = digest.hexdigest()
+
+    if actual_counts != expected_counts:
+        raise ValueError(
+            f"Manifest sayıları uyuşmuyor: expected={expected_counts}, actual={actual_counts}"
+        )
+    _validate_readme(
+        (release_dir / "README.md").read_text(encoding="utf-8"),
+        actual_counts,
+        behavior_counts,
+    )
+    return {
+        "counts": actual_counts,
+        "total": sum(actual_counts.values()),
+        "sha256": hashes,
+        "behaviors": dict(sorted(behavior_counts.items())),
+    }
+
+
+def push(
+    repo_id: str,
+    release_dir: Path,
+    *,
+    revision: str,
+    private: bool,
+    commit_message: str,
+    dry_run: bool,
+) -> dict[str, Any]:
+    validation = validate_release(release_dir)
+    summary = {
+        "repo_id": repo_id,
+        "revision": revision,
+        "private": private,
+        "files": list(_UPLOAD_FILES),
+        **validation,
+    }
+    if dry_run:
+        return {"dry_run": True, **summary}
+
+    try:
+        from huggingface_hub import HfApi
+    except ImportError as error:
+        raise RuntimeError(
+            'Yükleme için `pip install "huggingface-hub>=0.26"` çalıştırın'
+        ) from error
+
+    api = HfApi()
+    api.create_repo(repo_id=repo_id, repo_type="dataset", private=private, exist_ok=True)
+    commit = api.upload_folder(
+        repo_id=repo_id,
+        repo_type="dataset",
+        folder_path=release_dir,
+        revision=revision,
+        commit_message=commit_message,
+        allow_patterns=list(_UPLOAD_FILES),
+    )
+    return {"dry_run": False, "commit": str(commit), **summary}
+
+
+def main() -> int:
+    parser = argparse.ArgumentParser(
+        description="Finetool-TR yayın klasörünü doğrula ve Hugging Face'e yükle"
+    )
+    parser.add_argument("--repo-id", required=True, help="Örnek: kullanici/finetool-tr")
+    parser.add_argument("--release-dir", type=Path, default=_DEFAULT_RELEASE_DIR)
+    parser.add_argument("--revision", default="main")
+    parser.add_argument("--private", action="store_true")
+    parser.add_argument("--commit-message", default="FintoolDataset-TR doğrulanmış veri sürümü")
+    parser.add_argument("--dry-run", action="store_true")
+    args = parser.parse_args()
+
+    result = push(
+        args.repo_id,
+        args.release_dir.resolve(),
+        revision=args.revision,
+        private=args.private,
+        commit_message=args.commit_message,
+        dry_run=args.dry_run,
+    )
+    print(json.dumps(result, ensure_ascii=False, indent=2))
+    return 0
+
+
+if __name__ == "__main__":
+    raise SystemExit(main())

requirements.txt

@@ -0,0 +1 @@
+huggingface-hub>=0.26