File size: 23,484 Bytes
660030c | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 | #!/usr/bin/env python3
r"""生成「Danbooru 各 series(版权作品)累计投稿数」的 bar chart race。
一次扫描 → 缓存月度计数 → 同时产出中英两份 CSV(danbooru-series.csv / danbooru-series-zh.csv)。
数据源是本地 Danbooru 元数据 SQLite(posts 表,约 1100 万条)。一个 series = Danbooru 的
copyright 标签(tag_string_copyright,空格分隔)。「投稿数」= 该 series 出现在多少张 post 上,
按 post 的 created_at 月份累计。
同系列合并(关键):Danbooru 把一个大系列拆成很多子标签(fate/grand_order、fate/stay_night、
fate_(series)…;idolmaster_cinderella_girls…;pokemon_sv…),且有 tag implication,一稿常同时
带「子标签 + 系列伞标签」。所以:
· 用前缀规则把子标签归并到规范系列键(见 FRANCHISES,group_of())。
· 计数按「每稿对每个系列至多计一次」去重——直接把子标签计数相加会把同时带多个子标签的稿件重复计。
未列入 FRANCHISES 的标签各自独立成组(组键 = 标签本身)。
为什么用累计(cumulative):bar chart race 表达「存量随时间此消彼长」,和仓库里 stocks/gdp/llm 一样
是 level-over-time,累计柱单调增长、排名随热度迁移最耐看。
同时再出一个「增速榜」(danbooru-series-growth*.csv):value = 滚动 TRAILING_WINDOW 个月新增和
(默认 12=近一年滚动,最耐看;按月窗太抖故弃用)。能看谁正当红、死掉的系列会自然淡出。两个榜各出
中英两版,一次 --from-cache 全产出。
SFW 过滤:扫描时按 post 的 rating 分桶缓存(g/s/q/e 四级),故一份缓存能同时派生「全部 rating」
(ALL)与「仅 SFW」(SFW_RATINGS=g+s,对齐 safebooru.donmai.us)两套,无需为 SFW 单独重扫。
SFW 版文件名插 `-sfw`(如 danbooru-series-sfw.csv、danbooru-series-growth-sfw-zh.csv)。口径取 g+s
对 2023 年制度迁移鲁棒:老制度 s=safe、新制度新增 g 而 s 改指 sensitive,但 q/e 在两个时代恒为
NSFW,故「排除 q/e」的桶边界含义一致(若改成仅 g,2023 前的安全内容当时多标 s,会被错杀)。
注意:top-N 选取仍按全部 rating 的近似频率(见 select_groups),故某个 SFW 占比极高但总量在
top-N 之外的系列可能缺席 SFW 榜;调大 --top-n 可放宽。
CSV 列:series(显示名,中/英两版不同), tag(规范系列键,两版一致,datasets.ts 按它查主题色),
count(值), date(Unix 秒,月 1 号)。
口径与取舍:
· 默认排除 `original`(原创/无版权标记,量级碾压)。
· 只取合并后总量 top-N(默认 60)个系列。选取用频率表近似排序,真实值来自去重扫描。
· 中文名:FRANCHISES 里写死规范译名;独立标签取 copyright_name_map.json 的 zh_hans→zh_hant,
缺失回退 ZH_OVERRIDES→英文。
· 月度采样:某月 value = 截至该月末的累计投稿数,时间戳记为该月 1 号;系列首投前不出现(淡入)。
全表扫描 47GB(无覆盖索引),WSL /mnt 上 ~5–10k rows/s。扫一次把月度计数缓存到
scripts/data/danbooru-series-monthly.json;之后只调显示名/语言用 --from-cache 秒级重生成
(注意:改 FRANCHISES 分组会影响计数,必须重扫,不能用缓存)。
用法:
python3 scripts/update-danbooru-series.py # 全表扫描 + 写缓存 + 中英两份 CSV
python3 scripts/update-danbooru-series.py --from-cache # 跳过扫描,从缓存重生成(仅改显示名时)
python3 scripts/update-danbooru-series.py --limit 500000 # 小样验证管线
WSL 空间不足、库在 Windows 盘(E:)时:把重扫放宿主机原生跑,只回传几百 KB 缓存——
# ① WSL 里把脚本拷到 Windows 侧(避免 UNC/CWD 问题)
cp scripts/update-danbooru-series.py /mnt/e/danbooru_metadata/_scan.py
# ② 用 Windows Python 原生扫描(比 WSL 读 /mnt 的 9p 快 3–4×),只导缓存
python.exe 'E:\danbooru_metadata\_scan.py' --scan-only \
--database 'E:\danbooru_metadata\data\db\danbooru_metadata.db' \
--freq-csv 'E:\danbooru_metadata\data\outputs\tags\tag_frequency_copyright.csv' \
--cache 'E:\danbooru_metadata\series_cache.json'
# ③ 回 WSL:缓存就位 + 出 CSV(小而快)
cp /mnt/e/danbooru_metadata/series_cache.json scripts/data/danbooru-series-monthly.json
python3 scripts/update-danbooru-series.py --from-cache
依赖:仅标准库。
"""
from __future__ import annotations
import argparse
import calendar
import csv
import io
import json
import re
import sqlite3
import sys
import time
from collections import defaultdict
from pathlib import Path
REPO = Path(__file__).resolve().parent.parent
DB_PATH = Path('/mnt/e/danbooru_metadata/data/db/danbooru_metadata.db')
DATA = Path('/mnt/e/danbooru_metadata/data/outputs')
# 增速榜:value = 滚动 TRAILING_WINDOW 个月的新增和。1=当月新增(最跟手);12=近一年滚动(最平滑)。
# 实践下来按月窗太抖、季节噪声大,按年(12 月)窗最耐看,故定为 12。
TRAILING_WINDOW = 12
# 各 tag 维度共用同一套扫描/缓存/出图,只是扫不同列、用不同频率表/译名表/输出名:
# copyright(作品)—— 合并同系列(FRANCHISES),排除原创/伞标签/VTuber 泛类。
# character(角色)—— 不合并(角色变体量少,主标签已占绝大多数),无排除。
# original / honkai_(series):见 BLOCKLIST 注释(伞标签与具体作品重复,故排除)。
FIELDS = {
'copyright': dict(
column='tag_string_copyright',
freq=DATA / 'tags/tag_frequency_copyright.csv',
name_map=DATA / 'translations/copyright_name_map.json',
out='danbooru-series', merge=True,
blocklist={'original', 'honkai_(series)', 'indie_virtual_youtuber'},
),
'character': dict(
column='tag_string_character',
freq=DATA / 'tags/tag_frequency_character.csv',
name_map=DATA / 'translations/character_name_map.json',
out='danbooru-character', merge=False,
# 同一角色被拆成主标签 + 别名/子形态标签(且 name_map 常给同名)→ 折叠掉次要 tag,
# 只留规范主 tag 一条。不相加(半灵几乎总与妖梦共现、saber 与 artoria 大量共现,相加会重复计)。
# saber_(fate) ⊂ artoria_pendragon_(fate)(同为阿尔托莉雅,zh 同名)
# konpaku_youmu_(ghost) ⊂ konpaku_youmu(妖梦的半灵,en 同名 Konpaku Youmu)
blocklist={'saber_(fate)', 'konpaku_youmu_(ghost)'},
),
}
# 运行时由 --field 填入(group_of / select_groups / scan 读取)。
_COLUMN = 'tag_string_copyright'
_MERGE = True
_BLOCKLIST: set[str] = set()
PUB_DIRS = ('apps/playground/public', 'apps/studio/public')
# SFW 口径:保留的 rating(Danbooru 四级制 g=general / s=sensitive / q=questionable / e=explicit)。
# 取 g+s(对齐 safebooru.donmai.us)。对 2023 年的制度迁移鲁棒:老制度 s=safe、新制度新增 g 而 s 改指
# sensitive,但两个时代里 q/e 始终是 NSFW,故「排除 q/e」这条桶边界在新旧数据上含义一致。改这里即换阈值
# (如仅 ('g',) 最严格),无需重扫——缓存按 rating 分桶存了全部四级。
SFW_RATINGS = ('g', 's')
def out_file(base: str, *, growth: bool, sfw: bool, zh: bool) -> list[Path]:
"""输出 CSV 路径(playground + studio 两份)。后缀顺序固定 -growth → -sfw → -zh。"""
sfx = ('-growth' if growth else '') + ('-sfw' if sfw else '') + ('-zh' if zh else '')
return [REPO / d / f'{base}{sfx}.csv' for d in PUB_DIRS]
# 同系列合并规则:(规范键, 英文名, 中文名, [标签前缀...])。
# group_of(tag):命中任一前缀 → 规范键;否则标签独立成组。前缀都挑过、不会误伤其它系列。
FRANCHISES = [
('touhou', 'Touhou Project', '东方Project', ['touhou']),
('fate', 'Fate', 'Fate', ['fate/', 'fate_(']),
('idolmaster', 'THE iDOLM@STER', '偶像大师', ['idolmaster', 'gakuen_idolmaster']),
('love_live', 'Love Live!', 'Love Live!', ['love_live', 'link!_like!_love_live']),
('pokemon', 'Pokémon', '宝可梦', ['pokemon']),
('final_fantasy', 'Final Fantasy', '最终幻想', ['final_fantasy']),
('fire_emblem', 'Fire Emblem', '火焰纹章', ['fire_emblem']),
('honkai_star_rail', 'Honkai: Star Rail', '崩坏:星穹铁道', ['honkai:_star_rail', 'honkai_star_rail']),
('honkai_impact_3rd', 'Honkai Impact 3rd', '崩坏3', ['honkai_impact_3rd', 'honkai_impact']),
('bang_dream', 'BanG Dream!', 'BanG Dream!', ['bang_dream']),
('gundam', 'Gundam', '高达', ['gundam']),
('persona', 'Persona', '女神异闻录', ['persona']),
('umamusume', 'Umamusume', '赛马娘', ['umamusume']),
('sword_art_online', 'Sword Art Online', '刀剑神域', ['sword_art_online']),
('madoka', 'Puella Magi Madoka Magica', '魔法少女小圆', ['mahou_shoujo_madoka_magica']),
('granblue_fantasy', 'Granblue Fantasy', '碧蓝幻想', ['granblue']),
('danganronpa', 'Danganronpa', '弹丸论破', ['danganronpa']),
('jojo', "JoJo's Bizarre Adventure", 'JOJO的奇妙冒险', ['jojo_no_kimyou_na_bouken']),
('precure', 'Pretty Cure', '光之美少女', ['precure']),
('hololive', 'hololive', 'hololive', ['hololive']),
('nijisanji', 'Nijisanji', '彩虹社', ['nijisanji']),
('zelda', 'The Legend of Zelda', '塞尔达传说', ['the_legend_of_zelda']),
('kantai_collection', 'Kantai Collection', '舰队Collection', ['kantai_collection']),
('project_moon', 'Project Moon', 'Project Moon', ['project_moon', 'limbus_company',
'lobotomy_corporation', 'library_of_ruina']),
('xenoblade', 'Xenoblade Chronicles', '异度神剑', ['xenoblade']),
('world_witches', 'World Witches', '强袭魔女', ['world_witches', 'strike_witches']),
('lyrical_nanoha', 'Magical Girl Lyrical Nanoha', '魔法少女奈叶',
['lyrical_nanoha', 'mahou_shoujo_lyrical_nanoha']),
('haruhi', 'The Melancholy of Haruhi Suzumiya', '凉宫春日的忧郁', ['suzumiya_haruhi']),
('naruto', 'Naruto', '火影忍者', ['naruto']),
]
FRANCHISE_PREFIXES = [(pfx, key) for key, _, _, pfxs in FRANCHISES for pfx in pfxs]
FRANCHISE_EN = {key: en for key, en, _, _ in FRANCHISES}
FRANCHISE_ZH = {key: zh for key, _, zh, _ in FRANCHISES}
# 显示名中文兜底(按 tag 查,作品 / 角色通用,键互不冲突):name_map 缺 zh,或俗称比官方译名通行的。
ZH_OVERRIDES = {
# 作品
'kemono_friends': '兽娘动物园',
'goddess_of_victory:_nikke': '胜利女神:NIKKE',
'league_of_legends': '英雄联盟',
'mario_(series)': '超级马里奥',
'street_fighter': '街头霸王',
'dragon_ball': '龙珠', # 大陆官方译名(台译「七龙珠」)
# 角色(character_name_map 缺 zh)
'komeiji_satori': '古明地觉',
'doodle_sensei_(blue_archive)': '涂鸦先生',
}
# 独立标签的英文兜底:name_map 的 en 缺失或不够地道时覆盖。
EN_OVERRIDES = {
'k-on!': 'K-On!',
'toaru_majutsu_no_index': 'A Certain Magical Index',
'mario_(series)': 'Super Mario',
'sousou_no_frieren': "Frieren: Beyond Journey's End",
'splatoon_(series)': 'Splatoon',
'bocchi_the_rock!': 'Bocchi the Rock!',
}
YM_RE = re.compile(r'^\d{4}-\d{2}')
# 去掉显示名末尾的「(系列)」「(anime)」「(系列)」等括号后缀:name_map 派生名常带 Danbooru 标签
# 的消歧后缀,作品名里不该出现。只清理 name_map / prettify 的兜底名,手写的 FRANCHISES/OVERRIDES 不动。
PAREN_SUFFIX_RE = re.compile(r'\s*[\((][^))]*[\))]\s*$')
_gcache: dict[str, str] = {}
def strip_paren(name: str) -> str:
cleaned = PAREN_SUFFIX_RE.sub('', name).strip()
return cleaned or name
def group_of(tag: str) -> str:
"""标签 → 规范键(copyright 命中 FRANCHISES 前缀则归并;其它维度不合并,标签即键)。带缓存。"""
if not _MERGE:
return tag
g = _gcache.get(tag)
if g is None:
g = tag
for pfx, key in FRANCHISE_PREFIXES:
if tag.startswith(pfx):
g = key
break
_gcache[tag] = g
return g
def parse_args() -> argparse.Namespace:
p = argparse.ArgumentParser(description=__doc__, formatter_class=argparse.RawDescriptionHelpFormatter)
p.add_argument('--field', choices=tuple(FIELDS), default='copyright', help='扫哪个维度:作品 / 角色')
p.add_argument('--database', type=Path, default=DB_PATH)
p.add_argument('--freq-csv', type=Path, default=None, help='默认按 --field 取对应频率表')
p.add_argument('--name-map', type=Path, default=None, help='默认按 --field 取对应译名表')
p.add_argument('--top-n', type=int, default=60, help='纳入的系列数(合并后,按近似总量)')
p.add_argument('--from-cache', action='store_true', help='跳过扫描,从缓存重生成(仅改显示名时)')
p.add_argument('--scan-only', action='store_true',
help='只扫描+导缓存就退出,不读 name_map / 不写 CSV。用于在宿主机原生跑重扫')
p.add_argument('--cache', type=Path, default=None, help='缓存 JSON 路径(默认 scripts/data/)')
p.add_argument('--batch-size', type=int, default=100_000)
p.add_argument('--limit', type=int, default=None, help='只扫前 N 行(验证用)')
return p.parse_args()
def select_groups(freq_csv: Path, top_n: int) -> list[str]:
"""按合并后近似总量(子标签计数求和,仅用于排序)取 top-N 规范系列键。"""
approx: dict[str, int] = defaultdict(int)
with freq_csv.open(encoding='utf-8') as f:
reader = csv.reader(f)
next(reader, None)
for row in reader:
if row and row[0] not in _BLOCKLIST:
approx[group_of(row[0])] += int(row[1])
ranked = sorted(approx.items(), key=lambda kv: kv[1], reverse=True)
return [k for k, _ in ranked[:top_n]]
def prettify(tag: str) -> str:
return ' '.join(w[:1].upper() + w[1:] if w else w for w in tag.replace('_', ' ').split(' '))
def name_en(key: str, nm: dict) -> str:
if key in FRANCHISE_EN:
return FRANCHISE_EN[key]
if key in EN_OVERRIDES:
return EN_OVERRIDES[key]
return strip_paren(nm.get(key, {}).get('en') or prettify(key))
def name_zh(key: str, nm: dict) -> str:
if key in FRANCHISE_ZH:
return FRANCHISE_ZH[key]
if key in ZH_OVERRIDES:
return ZH_OVERRIDES[key]
e = nm.get(key, {})
return strip_paren(e.get('zh_hans') or e.get('zh_hant') or e.get('en') or prettify(key))
def scan(db: Path, selected: list[str], batch_size: int, limit: int | None) -> dict:
"""单遍扫描 posts,按 (year-month, 规范系列键, rating) 计数,每稿对每个系列至多 +1(去重)。
cell 存 rating→count 的小字典(rating 缺失记为 '?',计入总量但不算 SFW),一次扫描即可派生
ALL(全部 rating 求和)与 SFW(仅 SFW_RATINGS)两套,无需为 SFW 单独重扫。"""
keep = set(selected)
monthly: dict[str, dict[str, dict[str, int]]] = \
defaultdict(lambda: defaultdict(lambda: defaultdict(int)))
conn = sqlite3.connect(f'file:{db}?mode=ro', uri=True)
try:
total = conn.execute('SELECT COUNT(*) FROM posts').fetchone()[0]
if limit is not None:
total = min(total, limit)
cur = conn.execute(f'SELECT created_at, rating, {_COLUMN} FROM posts')
seen, t0 = 0, time.time()
while True:
rows = cur.fetchmany(batch_size)
if not rows:
break
for created_at, rating, tagstr in rows:
if not (created_at and tagstr and YM_RE.match(created_at)):
continue
groups = {g for t in tagstr.split() if (g := group_of(t)) in keep}
if groups:
bucket = monthly[created_at[:7]]
r = rating or '?'
for g in groups:
bucket[g][r] += 1
seen += len(rows)
rate = seen / (time.time() - t0 or 1)
sys.stderr.write(f'\r scanned {seen:,}/{total:,} ({rate:,.0f} rows/s)')
sys.stderr.flush()
if limit is not None and seen >= limit:
break
sys.stderr.write('\n')
finally:
conn.close()
return monthly
def month_range(months: list[str]) -> list[str]:
lo, hi = min(months), max(months)
y, m = int(lo[:4]), int(lo[5:7])
hy, hm = int(hi[:4]), int(hi[5:7])
out = []
while (y, m) <= (hy, hm):
out.append(f'{y:04d}-{m:02d}')
if m < 12:
m += 1
else:
y, m = y + 1, 1
return out
def ym_to_unix(ym: str) -> int:
return calendar.timegm((int(ym[:4]), int(ym[5:7]), 1, 0, 0, 0, 0, 0, 0))
def cell_count(cell, ratings: tuple[str, ...] | None) -> int:
"""单月单系列的投稿数:ratings=None 取全部 rating 之和;否则仅取这些 rating。
兼容旧缓存(cell 为 int 总量,无 rating 分级):直接返回,调用方对旧缓存不应传 ratings。"""
if isinstance(cell, dict):
return sum(cell.get(r, 0) for r in ratings) if ratings else sum(cell.values())
return cell # 旧格式:int 即总量
def cache_has_ratings(monthly: dict) -> bool:
"""新缓存的 cell 是 rating→count 字典;旧缓存是 int 总量(无法派生 SFW)。"""
for keyed in monthly.values():
for cell in keyed.values():
return isinstance(cell, dict)
return True
def series_values(deltas: list[int], metric: str, window: int) -> list[int]:
"""逐月 value:cumulative=累计和;trailing=滚动 window 月新增和(当前投稿速度)。"""
cum, cums = 0, []
for d in deltas:
cum += d
cums.append(cum)
if metric == 'cumulative':
return cums
return [cums[i] - (cums[i - window] if i - window >= 0 else 0) for i in range(len(cums))]
def usable_months(monthly: dict) -> list[str]:
"""补齐空月,并剔除末尾「数据不完整」的月份。
抓取常发生在月中,当月投稿数会骤降(如 2026-06 只有上月的 ~12%),月度增速榜里会让最后一帧
所有柱断崖式塌方、严重误导。判据:末月总量 < 前三个完整月中位数的一半 → 视为不完整,剔除。"""
months = month_range(list(monthly.keys()))
# 末月完整性判据按总量(与 rating 无关,是抓取时机问题),ALL/SFW 共用同一月轴便于对比。
vol = {ym: sum(cell_count(c, None) for c in monthly.get(ym, {}).values()) for ym in months}
while len(months) > 4:
ref = sorted(vol[m] for m in months[-4:-1])[1] # 前三个月的中位数
if ref > 0 and vol[months[-1]] < 0.5 * ref:
months = months[:-1]
else:
break
return months
def build_rows(monthly: dict, selected: list[str], metric: str, name_fn, nm: dict,
ratings: tuple[str, ...] | None = None, window: int = TRAILING_WINDOW) -> list[dict]:
months = usable_months(monthly)
rows: list[dict] = []
for key in selected:
display = name_fn(key, nm)
deltas = [cell_count(monthly.get(ym, {}).get(key, {}), ratings) for ym in months]
values = series_values(deltas, metric, window)
# 只发「活跃区间」[首个>0, 末个>0]:累计榜末尾恒>0 即到末月;增速榜里死掉的系列自然淡出。
nz = [i for i, v in enumerate(values) if v > 0]
if not nz:
continue
for i in range(nz[0], nz[-1] + 1):
rows.append({'series': display, 'tag': key, 'count': values[i],
'date': ym_to_unix(months[i])})
rows.sort(key=lambda r: (r['date'], r['series']))
return rows
def write_rows(rows: list[dict], outputs: list[Path]) -> None:
buf = io.StringIO()
w = csv.DictWriter(buf, fieldnames=['series', 'tag', 'count', 'date'])
w.writeheader()
w.writerows(rows)
data = buf.getvalue()
for path in outputs:
path.parent.mkdir(parents=True, exist_ok=True)
path.write_text(data, encoding='utf-8')
print(f' wrote {len(rows):,} rows -> {path}')
def main() -> None:
global _COLUMN, _MERGE, _BLOCKLIST
args = parse_args()
fld = FIELDS[args.field]
_COLUMN, _MERGE, _BLOCKLIST = fld['column'], fld['merge'], fld['blocklist']
freq_csv = args.freq_csv or fld['freq']
name_map = args.name_map or fld['name_map']
cache_path = args.cache or REPO / f"scripts/data/{fld['out']}-monthly.json"
base = fld['out']
if args.from_cache:
if not cache_path.exists():
sys.exit(f'cache not found: {cache_path} —— 先不带 --from-cache 跑一次全量扫描')
cached = json.loads(cache_path.read_text(encoding='utf-8'))
# 缓存里可能含后来加入 blocklist 的键;从 selected 过滤掉即可,无需重扫。
selected = [k for k in cached['selected'] if k not in _BLOCKLIST]
monthly = cached['monthly']
print(f'[{args.field}] loaded cache: {len(selected)} groups, {len(monthly)} months')
else:
for path in (args.database, freq_csv):
if not path.exists():
sys.exit(f'not found: {path}')
selected = select_groups(freq_csv, args.top_n)
print(f'[{args.field}] selected {len(selected)} groups (top-{args.top_n})')
monthly = scan(args.database, selected, args.batch_size, args.limit)
print(f'scanned {len(monthly)} months: {min(monthly)} .. {max(monthly)}')
if args.limit is None:
cache_path.parent.mkdir(parents=True, exist_ok=True)
cache_path.write_text(json.dumps({'selected': selected, 'monthly': monthly}), encoding='utf-8')
print(f' cached -> {cache_path}')
# 宿主机只负责「扫描→导缓存」这一重活;显示名映射 / 写 CSV 留给 WSL 侧(小而快)。
if args.scan_only:
print('scan-only: cache written, skipping name_map / CSV')
return
nm = json.loads(name_map.read_text(encoding='utf-8')) if name_map.exists() else {}
# 一份缓存出全部变体:{累计, 增速} × {ALL 全部 rating, SFW 仅 g+s} × {英, 中}。
# SFW 需 rating 分级缓存;旧缓存(int cell)只出 ALL,并提示重扫。
safeties = [('all', None)]
if cache_has_ratings(monthly):
safeties.append(('sfw', SFW_RATINGS))
else:
print(' 缓存为旧格式(无 rating 分级),跳过 SFW;出 SFW 版需重扫一次')
for metric, growth in (('cumulative', False), ('trailing', True)):
for safety, ratings in safeties:
for zh, name_fn in ((False, name_en), (True, name_zh)):
rows = build_rows(monthly, selected, metric, name_fn, nm, ratings)
tag = f'{metric}/{safety}/{"中" if zh else "en"}'
print(f'[{tag}]:')
write_rows(rows, out_file(base, growth=growth, sfw=safety == 'sfw', zh=zh))
if __name__ == '__main__':
main()
|