# Wikisource（ja）ダンプの取得と明治以前サブセットの統計 `jawikisource` の公式ダンプから、明治以前の日本古典をカテゴリで選定し、 件数・文字数・本文形式を測るためのスクリプトです。 ## 取得するダンプ 再現性のため `latest` ではなく日付ディレクトリを使います（ここでは 2026-10-01）。 ```bash mkdir -p wikisource/dumps cd wikisource/dumps base=https://dumps.wikimedia.org/jawikisource/20261001 for f in pages-articles.xml.bz2 page.sql.gz categorylinks.sql.gz \ category.sql.gz linktarget.sql.gz all-titles.gz site_stats.sql.gz md5sums.txt; do curl --fail --location --retry 3 -O "$base/jawikisource-20261001-$f" done grep -E 'pages-articles\.xml\.bz2|page\.sql\.gz|categorylinks\.sql\.gz|category\.sql\.gz|linktarget\.sql\.gz' \ jawikisource-20261001-md5sums.txt | md5sum -c - ``` `categorylinks` は 2020 年代のスキーマで `cl_to` を持たず、`cl_target_id` から `linktarget` を引く必要があります。`linktarget.sql.gz` は必須です。 ## SQLite への取り込み ```bash python3 scripts/wikisource_import_dumps.py \ --dumps-dir wikisource/dumps --date 20261001 \ --output wikisource/metadata/jawikisource-20261001.sqlite ``` 取り込むテーブル: `page` / `category` / `linktarget` / `catlink`。 `catlink.category` はカテゴリ名（`Category:` 接頭辞なし、空白は `_`）です。 ## 統計 ```bash python3 scripts/wikisource_stats.py \ --db wikisource/metadata/jawikisource-20261001.sqlite \ --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ --output-dir wikisource/metadata ``` 出力: | ファイル | 内容 | | --- | --- | | `stats.json` | 集計値（名前空間、選定件数、年、文字数、校正品質） | | `era_categories.csv` | 時代カテゴリ木（包含・除外・ページ数・除外シグナル判定） | | `candidate_pages.csv` | 選定ページ（`year_ok` で出版年フィルタ結果を持つ） | | `candidate_works.csv` | 作品単位に集約した一覧 | ## 選定ルール（2026-10-18 決定） - 対象: 日本の古典のみ（漢籍・仏典・現代の翻訳・法令は対象外）。 - 年代: 出版・刊行年基準。`{{header|year=}}` の西暦を記録し、1868 年以上は `year_ok=0` として除外候補にする。年が無いページは削除せず保留（`year_ok=1`）。 - 包含: `古代_(日本)` / `中世_(日本)` / `近世_(日本)` の下位カテゴリ。 - 除外: `近代_(日本)` / `現代_(日本)` / `明治時代` 配下のうち、**カテゴリ名に 明治・大正・昭和・平成・令和を含むものだけ**をページ除外に使う。 - 記事名前空間（ns0）のみ。リダイレクトは除外。 ### なぜ除外木をそのまま使わないか カテゴリ木は主題カテゴリで汚染されています。実例: ``` Category:熊本県 → Category:日本の都道府県 → Category:地方自治法 → 昭和22年の法律 → 昭和22年の法令 → 昭和の法令 → 昭和 → 近代_(日本) ``` このため `近代_(日本)` の全子孫を除外すると、江戸時代の作品が `Category:熊本県` や `Category:琉球王国` を持っているだけで落ちます （初回実装では 996 ページ中 22 ページが誤って衝突）。 カテゴリ名に元号を含むものだけを除外シグナルにすることで 0 件にしました。 ## `` 作品の本文抽出（Page: 直読み） `` を使う作品は、本体ページのwikitextに本文がありません。 `Page:` 名前空間の翻刻をダンプから直接読んで結合します。 ```bash python3 scripts/wikisource_extract.py \ --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ --candidates wikisource/metadata/candidate_pages.csv \ --output-dir wikisource/extracted-v1/build-005 ``` - `--page-id` で対象を限定できます（パイロット用）。 - 出力: `works.jsonl`（作品単位）、`pages.jsonl`（ページ境界・校正レベル・文字オフセット）、 `text/.txt`（プレーンテキスト）、`raw/.wikitext`（原文とPage:原文）、 `unhandled_templates.csv`、`report.json`。 - ページ順は `` の数値を使う。指定が無い場合は `Page:` の接尾辞を自然順で並べる（`表紙` など非数値も扱う）。 - `` の `_` はダンプ側の空白に正規化する。 ### テキスト化の規則 | 処理 | 対象 | | --- | --- | | 削除 | ``（柱・ノンブル・``）、HTMLコメント、`` | | 削除 | 返り点 `{{re}}` `{{レ}}` `{{一}}`〜`{{十}}` `{{上}}` `{{下}}` `{{中}}` `{{chu}}` | | 削除 | レイアウト `{{nop}}` `{{left/s}}` `{{indent/s}}` `{{right/s}}` `{{*/s}}` など | | 削除 | ページリンク・目次 `{{DJVU page link 2}}` `{{Dotted TOC page listing}}` | | 文字に置換 | `{{ku}}`→〱 `{{gu}}`→〲（`{{く}}` `{{ぐ}}` `{{〱}}` `{{〲}}` も同じ） | | 第1引数を残す | `{{r|本文|ルビ}}` `{{ruby|本文|ルビ}}` `{{soe|ニ}}` `{{*|割注}}` `{{傍点|…}}` `{{註|…}}` など | | 引数を連結 | `{{分註|…}}` `{{MarginNote|text=…}}` | | 削除 | `{{:ページ名|...}}`（ヘッダ・フッタのトランスクルージョン） | | 未対応 | そのまま残し `unhandled_templates.csv` に記録（現在 `{{ママ}}` のみ） | `{{r|本文|ルビ}}` は**第1引数が本文**です。ここをルビとして捨てると 「竹取物語」の漢字が全部消えるので注意（build-004 で実際に発生）。 ## 本体wikitextの抽出（`` を使わない作品） ```bash python3 scripts/wikisource_extract_main.py \ --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ --candidates wikisource/metadata/candidate_pages.csv \ --output-dir wikisource/extracted-v1/main-004 ``` - `{{header}}` を丸ごと除去し、本文だけを残す。 - `{{:ページ名|...}}`（ヘッダ・フッタ）と `{{/サブページ}}` は除去。 - 表（`{| ... |}`）はセルをタブ区切りに変換。 - `[[File:...]]`、カテゴリ、ライセンス、ナビゲーション、`{{DEFAULTSORT:...}}` を除去。 - `{{r|本文|ルビ}}` `{{Ruby|...}}` `{{*|割注}}` などは本文を残す（共通規則）。 - 出力: `documents.jsonl` / `works.jsonl`（作品単位に結合）/ `text/` / `raw/`。 ### 未解決になる作品 一部の作品は本文をwikitextに持たず、**テンプレート名前空間の巨大な生成用テンプレート** （例: `テンプレート:NDLJP899828` 1.6MB）と Lua の `Module:Remix` で本文を組み立てます。 ``` 甲陽軍鑑/品第一 → {{:甲陽軍鑑|...}} → {{NDLJP899828|...}} → {{#Invoke:Remix|conjure|index=Template:...}} ``` `pages-articles.xml.bz2` には Template 名前空間が含まれないため、この方式では解決できません （`pages-meta-current.xml.bz2` には含まれる）。該当ページは空文字列として出力され、 `documents.jsonl` の `chars=0` または生wikitextの `#Invoke:Remix` で識別できます。 ## 未解決ページのAPI取得 未解決ページだけを MediaWiki API で描画します（リビジョン固定）。 ```bash python3 scripts/wikisource_fetch_api.py \ --documents wikisource/extracted-v1/main-004/documents.jsonl \ --raw-dir wikisource/extracted-v1/main-004/raw \ --output-dir wikisource/extracted-v1/api-001 --interval 1.0 ``` - `action=parse&oldid=&maxlag=5`。返却 `revid` が一致しなければ停止。 - User-Agent 明示、1秒間隔、429/5xx は `Retry-After` を尊重して再試行。 - HTMLから `style`/`script`/`rt`/`rp`、`#navigationHeader`、`#navigationNotes`、 `#navigationFooter`、`.mw-inputbox-centered` を除去。 - 出力: `documents.jsonl`（oldid、revid、sha256、取得時刻）、`text/`、`raw/*.html`。 - 既存のテキストはスキップ。`--refresh` で再取得。 ## 3系統の統合と重複除去 ```bash python3 scripts/wikisource_merge.py \ --pages-dir wikisource/extracted-v1/build-006 \ --main-dir wikisource/extracted-v1/main-004 \ --api-dir wikisource/extracted-v1/api-002 \ --output-dir wikisource/corpus-v1 ``` - 同一タイトルは API > `` > 本体wikitext の順で採用。 - 空白を除いた本文SHA-256が同じものは重複として除去。 - 作品の親ページに全文があり、下位ページ本文がその部分文字列なら下位ページを除去。 - 作品単位に結合する。章順は親ページの目次リンク順、目次が無ければページID順。 - 版違い（舊字/新字、國文大觀、群書類從、国史研究会、我自刊我書 など）は 別の作品グループとして保持し、`edition` に版名を入れる。 - 出力: `documents.jsonl`（ページ単位・本文inline）、`works.jsonl`（作品単位）、 `duplicates.jsonl`（除去理由）、`report.json`。 ## 既知の注意点 - **時代カテゴリの網羅率は低い。** ns0 非リダイレクト 20,811 ページのうち、 時代名カテゴリに直接入っているのは 6,671 ページ。時代カテゴリの無い古典も あるため、カテゴリ選定は「取りこぼし前提」で監査する。 - **`` の作品がある。** 選定 996 ページ中 88 ページ。 wikitext に本文が無いので、本文抽出時は API の展開結果か `Page:` 名前空間 （14,326 ページ）が必要。 - **ページ単位は文書単位ではない。** 中央値 570 文字、100 文字未満が 240 ページ。 和歌集の1首ページなどを含むため、学習文書は作品単位にまとめる。 - **底本が明治以降の版がある。** カテゴリが江戸時代でも `year` が 1881・1916 などのページが 17 件。版違いとして残すか除外するかは別途判断する。 - **底本の刊行年は `Index:` の `年` を見る。** 本体ページの `{{header|year=}}` は作品の成立年で、別物。`` 作品88件のうち77件は 國文大観（1903–1906）・群書類従（1939–1943）など1868年以降の活字本が底本。 2.5M文字のうち175k文字だけが1868年以前の底本。 - ライセンスは CC BY-SA 4.0。作品ごとに出典 URL・版・ライセンスを保持する。 ## テスト ```bash cd scripts python3 -m unittest -v test_wikisource_dumps.py test_wikisource_stats.py \ test_wikisource_extract.py test_wikisource_extract_main.py \ test_wikisource_fetch_api.py test_wikisource_merge.py ```