HYUKI5/DeepPavlov__hwu64

DeepPavlov/hwu64（複製）

データの内容

発話にインテントのラベルを付けた、テキスト分類のデータセット。1 行が 1 件の発話で、utterance に文、label にインテントの番号が入る。元の研究の GitHub リポジトリ（jianguoz/Few-Shot-Intent-Detection）のデータを、AutoIntent Library で使える形に整形したもの。ライセンスはカードに書かれておらず、調査メモでは元のリポジトリで確認が要るとされている。

データの概要

項目	値
行数	10,158（3 構成・4 分割の合計）
列数	2〜6（構成による）
容量	216.66 KB（ファイル 6 本）
ファイルの形式	parquet 4
言語	en
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
default	train 8,954、test 1,076	2
intents	intents 64	6
intentsqwen3-32b	intents 64	6

列（構成 default・分割 train。構成ごとに列が違う）

列	型	先頭の行の値
utterance	string	what alarms do i have set right now
label	int64	0

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

DeepPavlov/hwu64 をリビジョン 0dd289ccdeb185ec065d1ebcf5de1c443cd1620f の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/DeepPavlov/hwu64
• 複製したリビジョン: 0dd289ccdeb185ec065d1ebcf5de1c443cd1620f（2025-06-21 23:41:59+00:00）
• 元のライセンス表記: other

論文

• 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

元のカードにアノテーションの節が無かった。下の「調査メモの記述」と「元のカード」を参照。

微調整に使うときの注意

• 調査メモの台帳での区分: B（継承条件・gated・モデル由来の条件・上流の規約などが付く）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
routing_support_structured.md	Q2. インテント分類・ルーティング系 (L54)	ライセンス記載なし（API で license 欠落）。元データ CC-BY-4.0（事前知識）	事前知識	上流/条件注記 ／ 原文注記: HF API 確認はメタのみ。ライセンスは元リポジトリで要確認

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

hwu64

これはテキスト分類のデータセットである。機械学習の研究と実験を目的としている。

このデータセットは、別の公開データを整形して、AutoIntent Library と互換になるようにしたものである。

使い方

AutoIntent Library と合わせて使うことを想定している:

from autointent import Dataset

hwu64 = Dataset.from_hub("AutoIntent/hwu64")

出典

このデータセットは、元の研究の GitHub リポジトリ jianguoz/Few-Shot-Intent-Detection から取られ、AutoIntent Library で整形された:

# define utils
import requests
from autointent import Dataset

def load_text_from_url(github_file: str):
    return requests.get(github_file).text

def convert_hwu64(hwu_utterances, hwu_labels):
    intent_names = sorted(set(hwu_labels))
    name_to_id = dict(zip(intent_names, range(len(intent_names)), strict=False))
    n_classes = len(intent_names)

    assert len(hwu_utterances) == len(hwu_labels)

    classwise_utterance_records = [[] for _ in range(n_classes)]
    intents = [
        {
            "id": i,
            "name": name,
            
        }
        for i, name in enumerate(intent_names)
    ]

    for txt, name in zip(hwu_utterances, hwu_labels, strict=False):
        intent_id = name_to_id[name]
        target_list = classwise_utterance_records[intent_id]
        target_list.append({"utterance": txt, "label": intent_id})

    utterances = [rec for lst in classwise_utterance_records for rec in lst]
    return {"intents": intents, split: utterances}

# load
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/train/label"
labels = load_text_from_url(file_url).split("\n")[:-1]
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/train/seq.in"
utterances = load_text_from_url(file_url).split("\n")[:-1]
# convert
hwu64_train = convert_hwu64(utterances, labels, "train")

file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/test/label"
labels = load_text_from_url(file_url).split("\n")[:-1]
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/test/seq.in"
utterances = load_text_from_url(file_url).split("\n")[:-1]
# convert
hwu64_test = convert_hwu64(utterances, labels, "test")

hwu64_train["test"] = hwu64_test["test"]
dataset = Dataset.from_dict(hwu64_train)

原文（英語）

hwu64

This is a text classification dataset. It is intended for machine learning research and experimentation.

This dataset is obtained via formatting another publicly available data to be compatible with our AutoIntent Library.

Usage

It is intended to be used with our AutoIntent Library:

from autointent import Dataset

hwu64 = Dataset.from_hub("AutoIntent/hwu64")

Source

This dataset is taken from original work's github repository jianguoz/Few-Shot-Intent-Detection and formatted with our AutoIntent Library:

# define utils
import requests
from autointent import Dataset

def load_text_from_url(github_file: str):
    return requests.get(github_file).text

def convert_hwu64(hwu_utterances, hwu_labels):
    intent_names = sorted(set(hwu_labels))
    name_to_id = dict(zip(intent_names, range(len(intent_names)), strict=False))
    n_classes = len(intent_names)

    assert len(hwu_utterances) == len(hwu_labels)

    classwise_utterance_records = [[] for _ in range(n_classes)]
    intents = [
        {
            "id": i,
            "name": name,
            
        }
        for i, name in enumerate(intent_names)
    ]

    for txt, name in zip(hwu_utterances, hwu_labels, strict=False):
        intent_id = name_to_id[name]
        target_list = classwise_utterance_records[intent_id]
        target_list.append({"utterance": txt, "label": intent_id})

    utterances = [rec for lst in classwise_utterance_records for rec in lst]
    return {"intents": intents, split: utterances}

# load
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/train/label"
labels = load_text_from_url(file_url).split("\n")[:-1]
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/train/seq.in"
utterances = load_text_from_url(file_url).split("\n")[:-1]
# convert
hwu64_train = convert_hwu64(utterances, labels, "train")

file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/test/label"
labels = load_text_from_url(file_url).split("\n")[:-1]
file_url = "https://raw.githubusercontent.com/jianguoz/Few-Shot-Intent-Detection/refs/heads/main/Datasets/HWU64/test/seq.in"
utterances = load_text_from_url(file_url).split("\n")[:-1]
# convert
hwu64_test = convert_hwu64(utterances, labels, "test")

hwu64_train["test"] = hwu64_test["test"]
dataset = Dataset.from_dict(hwu64_train)