lostsky-service/weibo-service-intent

微博付费服务意图分类数据集

这是一个用于微博正文意图分类的 Hugging Face Dataset，任务是判断微博正文是否属于以下目标：

• 1：寻找付费陪玩、代打、有偿服务点单，或微博站内抽奖；
• 0：服务提供方广告、招聘、引流、故事分享、站外抽奖及其他非目标内容。

数据集维护方已决定公开发布这份数据。公开微博可访问不等同于已取得原作者对文本的再许可； 微博正文的权利仍归相应原作者，本数据集没有为这些第三方文本授予新的许可证，因此没有填写数据集许可证元数据。

数据结构

每行是一个 JSON 对象，只包含四个字段：

字段	类型	说明
number	string	按 split 重新生成的公开编号，不是数据库或微博 ID
text	string	采集到的公开微博原始正文
label	integer/null	0、1；不确定集为 null
source	string	标签来源

source 的取值：

• ai_generated：旧开发集的 AI 标签；不能表述为人工金标。
• human_confirmed_ai_agreement：用户逐条确认与 AI 建议一致。
• human_entered：用户直接填写的人工标签。
• human_review_model_assisted：锁定模型预填建议后由用户校对，存在建议锚定偏差，不是盲标。

固定划分

split	数量	用途与边界
train	1,492	1,271 条旧 AI 开发标签，加 221 条人工确认标签
validation	55	仅人工确认标签；按正文近重复组与训练集隔离
test	299	新帖的确定标签；模型辅助人工复核
uncertain	1	人工无法确定，标签为空，不计入确定样本准确率

训练和验证划分沿用冻结的第三轮实验，不重新随机切分。训练与验证样本按字符 3-gram Jaccard 相似度 不低于 0.72 分组，验证组内相关的开发样本不会进入训练。测试样本在模型和阈值锁定后才用于验收， 但人工校对看到了模型建议，因此不构成严格盲测。

与冻结模型的关系

候选包中的 text 是原始正文；冻结模型实际输入会先应用 remove-first-leading-supertopic-v1：只删除正文开头第一个完整超话标签。训练文件中的文本因此可能与本数据集正文不同。 模型还固定使用最大长度 160，正类分数阈值为 0.46。预处理必须在训练和推理时保持一致。

冻结模型在测试集中 299 条确定样本上正确 283 条，综合正确率为 94.65%（TP 102、FP 8、FN 8、TN 181）； 若把 1 条不确定样本也计为错误，则为 283/300 = 94.33%。这组标签属于模型辅助人工复核，结果可能受锚定偏差影响， 不能保证其他时间段、话题或微博分布达到相同准确率。

隐私与再分发边界

按数据所有者要求，正文保持原样，没有替换链接、@ 提及或正文中的联系方式，因此数据不能称为匿名或已脱敏。 结构化的数据库主键、微博状态 ID、作者、发帖时间和跳转 URL 没有进入公开字段。 启发式扫描摘要见 PRIVACY-AUDIT.md 和 manifest.json；它们不能代替逐条隐私、平台条款和著作权审核。

加载示例

from datasets import load_dataset

dataset = load_dataset(
    "json",
    data_files={
        "train": "data/train.jsonl",
        "validation": "data/validation.jsonl",
        "test": "data/test.jsonl",
        "uncertain": "data/uncertain.jsonl",
    },
)

本地候选目录中的 private/ 与构建脚本只用于完整性核验，不属于公开数据集；Hugging Face 仓库只包含这里的公开文件。