| # Wikisource（ja）ダンプの取得と明治以前サブセットの統計 |
|
|
| `jawikisource` の公式ダンプから、明治以前の日本古典をカテゴリで選定し、 |
| 件数・文字数・本文形式を測るためのスクリプトです。 |
|
|
| ## 取得するダンプ |
|
|
| 再現性のため `latest` ではなく日付ディレクトリを使います（ここでは 2026-10-01）。 |
|
|
| ```bash |
| mkdir -p wikisource/dumps |
| cd wikisource/dumps |
| base=https://dumps.wikimedia.org/jawikisource/20261001 |
| for f in pages-articles.xml.bz2 page.sql.gz categorylinks.sql.gz \ |
| category.sql.gz linktarget.sql.gz all-titles.gz site_stats.sql.gz md5sums.txt; do |
| curl --fail --location --retry 3 -O "$base/jawikisource-20261001-$f" |
| done |
| grep -E 'pages-articles\.xml\.bz2|page\.sql\.gz|categorylinks\.sql\.gz|category\.sql\.gz|linktarget\.sql\.gz' \ |
| jawikisource-20261001-md5sums.txt | md5sum -c - |
| ``` |
|
|
| `categorylinks` は 2020 年代のスキーマで `cl_to` を持たず、`cl_target_id` から |
| `linktarget` を引く必要があります。`linktarget.sql.gz` は必須です。 |
|
|
| ## SQLite への取り込み |
|
|
| ```bash |
| python3 scripts/wikisource_import_dumps.py \ |
| --dumps-dir wikisource/dumps --date 20261001 \ |
| --output wikisource/metadata/jawikisource-20261001.sqlite |
| ``` |
|
|
| 取り込むテーブル: `page` / `category` / `linktarget` / `catlink`。 |
| `catlink.category` はカテゴリ名（`Category:` 接頭辞なし、空白は `_`）です。 |
|
|
| ## 統計 |
|
|
| ```bash |
| python3 scripts/wikisource_stats.py \ |
| --db wikisource/metadata/jawikisource-20261001.sqlite \ |
| --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ |
| --output-dir wikisource/metadata |
| ``` |
|
|
| 出力: |
|
|
| | ファイル | 内容 | |
| | --- | --- | |
| | `stats.json` | 集計値（名前空間、選定件数、年、文字数、校正品質） | |
| | `era_categories.csv` | 時代カテゴリ木（包含・除外・ページ数・除外シグナル判定） | |
| | `candidate_pages.csv` | 選定ページ（`year_ok` で出版年フィルタ結果を持つ） | |
| | `candidate_works.csv` | 作品単位に集約した一覧 | |
|
|
| ## 選定ルール（2026-10-18 決定） |
|
|
| - 対象: 日本の古典のみ（漢籍・仏典・現代の翻訳・法令は対象外）。 |
| - 年代: 出版・刊行年基準。`{{header|year=}}` の西暦を記録し、1868 年以上は |
| `year_ok=0` として除外候補にする。年が無いページは削除せず保留（`year_ok=1`）。 |
| - 包含: `古代_(日本)` / `中世_(日本)` / `近世_(日本)` の下位カテゴリ。 |
| - 除外: `近代_(日本)` / `現代_(日本)` / `明治時代` 配下のうち、**カテゴリ名に |
| 明治・大正・昭和・平成・令和を含むものだけ**をページ除外に使う。 |
| - 記事名前空間（ns0）のみ。リダイレクトは除外。 |
|
|
| ### なぜ除外木をそのまま使わないか |
|
|
| カテゴリ木は主題カテゴリで汚染されています。実例: |
|
|
| ``` |
| Category:熊本県 → Category:日本の都道府県 → Category:地方自治法 |
| → 昭和22年の法律 → 昭和22年の法令 → 昭和の法令 → 昭和 → 近代_(日本) |
| ``` |
|
|
| このため `近代_(日本)` の全子孫を除外すると、江戸時代の作品が |
| `Category:熊本県` や `Category:琉球王国` を持っているだけで落ちます |
| （初回実装では 996 ページ中 22 ページが誤って衝突）。 |
| カテゴリ名に元号を含むものだけを除外シグナルにすることで 0 件にしました。 |
|
|
| ## `<pages>` 作品の本文抽出（Page: 直読み） |
|
|
| `<pages index="..."/>` を使う作品は、本体ページのwikitextに本文がありません。 |
| `Page:` 名前空間の翻刻をダンプから直接読んで結合します。 |
|
|
| ```bash |
| python3 scripts/wikisource_extract.py \ |
| --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ |
| --candidates wikisource/metadata/candidate_pages.csv \ |
| --output-dir wikisource/extracted-v1/build-005 |
| ``` |
|
|
| - `--page-id` で対象を限定できます（パイロット用）。 |
| - 出力: `works.jsonl`（作品単位）、`pages.jsonl`（ページ境界・校正レベル・文字オフセット）、 |
| `text/<page_id>.txt`（プレーンテキスト）、`raw/<page_id>.wikitext`（原文とPage:原文）、 |
| `unhandled_templates.csv`、`report.json`。 |
| - ページ順は `<pages from= to=>` の数値を使う。指定が無い場合は |
| `Page:` の接尾辞を自然順で並べる（`表紙` など非数値も扱う）。 |
| - `<pages index>` の `_` はダンプ側の空白に正規化する。 |
|
|
| ### テキスト化の規則 |
|
|
| | 処理 | 対象 | |
| | --- | --- | |
| | 削除 | `<noinclude>`（柱・ノンブル・`<references/>`）、HTMLコメント、`<pagequality>` | |
| | 削除 | 返り点 `{{re}}` `{{レ}}` `{{一}}`〜`{{十}}` `{{上}}` `{{下}}` `{{中}}` `{{chu}}` | |
| | 削除 | レイアウト `{{nop}}` `{{left/s}}` `{{indent/s}}` `{{right/s}}` `{{*/s}}` など | |
| | 削除 | ページリンク・目次 `{{DJVU page link 2}}` `{{Dotted TOC page listing}}` | |
| | 文字に置換 | `{{ku}}`→〱 `{{gu}}`→〲（`{{く}}` `{{ぐ}}` `{{〱}}` `{{〲}}` も同じ） | |
| | 第1引数を残す | `{{r|本文|ルビ}}` `{{ruby|本文|ルビ}}` `{{soe|ニ}}` `{{*|割注}}` `{{傍点|…}}` `{{註|…}}` など | |
| | 引数を連結 | `{{分註|…}}` `{{MarginNote|text=…}}` | |
| | 削除 | `{{:ページ名|...}}`（ヘッダ・フッタのトランスクルージョン） | |
| | 未対応 | そのまま残し `unhandled_templates.csv` に記録（現在 `{{ママ}}` のみ） | |
|
|
| `{{r|本文|ルビ}}` は**第1引数が本文**です。ここをルビとして捨てると |
| 「竹取物語」の漢字が全部消えるので注意（build-004 で実際に発生）。 |
|
|
| ## 本体wikitextの抽出（`<pages>` を使わない作品） |
|
|
| ```bash |
| python3 scripts/wikisource_extract_main.py \ |
| --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \ |
| --candidates wikisource/metadata/candidate_pages.csv \ |
| --output-dir wikisource/extracted-v1/main-004 |
| ``` |
|
|
| - `{{header}}` を丸ごと除去し、本文だけを残す。 |
| - `{{:ページ名|...}}`（ヘッダ・フッタ）と `{{/サブページ}}` は除去。 |
| - 表（`{| ... |}`）はセルをタブ区切りに変換。 |
| - `[[File:...]]`、カテゴリ、ライセンス、ナビゲーション、`{{DEFAULTSORT:...}}` を除去。 |
| - `{{r|本文|ルビ}}` `{{Ruby|...}}` `{{*|割注}}` などは本文を残す（共通規則）。 |
| - 出力: `documents.jsonl` / `works.jsonl`（作品単位に結合）/ `text/` / `raw/`。 |
|
|
| ### 未解決になる作品 |
|
|
| 一部の作品は本文をwikitextに持たず、**テンプレート名前空間の巨大な生成用テンプレート** |
| （例: `テンプレート:NDLJP899828` 1.6MB）と Lua の `Module:Remix` で本文を組み立てます。 |
|
|
| ``` |
| 甲陽軍鑑/品第一 → {{:甲陽軍鑑|...}} → {{NDLJP899828|...}} |
| → {{#Invoke:Remix|conjure|index=Template:...}} |
| ``` |
|
|
| `pages-articles.xml.bz2` には Template 名前空間が含まれないため、この方式では解決できません |
| （`pages-meta-current.xml.bz2` には含まれる）。該当ページは空文字列として出力され、 |
| `documents.jsonl` の `chars=0` または生wikitextの `#Invoke:Remix` で識別できます。 |
|
|
| ## 未解決ページのAPI取得 |
|
|
| 未解決ページだけを MediaWiki API で描画します（リビジョン固定）。 |
|
|
| ```bash |
| python3 scripts/wikisource_fetch_api.py \ |
| --documents wikisource/extracted-v1/main-004/documents.jsonl \ |
| --raw-dir wikisource/extracted-v1/main-004/raw \ |
| --output-dir wikisource/extracted-v1/api-001 --interval 1.0 |
| ``` |
|
|
| - `action=parse&oldid=<revid>&maxlag=5`。返却 `revid` が一致しなければ停止。 |
| - User-Agent 明示、1秒間隔、429/5xx は `Retry-After` を尊重して再試行。 |
| - HTMLから `style`/`script`/`rt`/`rp`、`#navigationHeader`、`#navigationNotes`、 |
| `#navigationFooter`、`.mw-inputbox-centered` を除去。 |
| - 出力: `documents.jsonl`（oldid、revid、sha256、取得時刻）、`text/`、`raw/*.html`。 |
| - 既存のテキストはスキップ。`--refresh` で再取得。 |
|
|
| ## 3系統の統合と重複除去 |
|
|
| ```bash |
| python3 scripts/wikisource_merge.py \ |
| --pages-dir wikisource/extracted-v1/build-006 \ |
| --main-dir wikisource/extracted-v1/main-004 \ |
| --api-dir wikisource/extracted-v1/api-002 \ |
| --output-dir wikisource/corpus-v1 |
| ``` |
|
|
| - 同一タイトルは API > `<pages>` > 本体wikitext の順で採用。 |
| - 空白を除いた本文SHA-256が同じものは重複として除去。 |
| - 作品の親ページに全文があり、下位ページ本文がその部分文字列なら下位ページを除去。 |
| - 作品単位に結合する。章順は親ページの目次リンク順、目次が無ければページID順。 |
| - 版違い（舊字/新字、國文大觀、群書類從、国史研究会、我自刊我書 など）は |
| 別の作品グループとして保持し、`edition` に版名を入れる。 |
| - 出力: `documents.jsonl`（ページ単位・本文inline）、`works.jsonl`（作品単位）、 |
| `duplicates.jsonl`（除去理由）、`report.json`。 |
|
|
| ## 既知の注意点 |
|
|
| - **時代カテゴリの網羅率は低い。** ns0 非リダイレクト 20,811 ページのうち、 |
| 時代名カテゴリに直接入っているのは 6,671 ページ。時代カテゴリの無い古典も |
| あるため、カテゴリ選定は「取りこぼし前提」で監査する。 |
| - **`<pages index="..."/>` の作品がある。** 選定 996 ページ中 88 ページ。 |
| wikitext に本文が無いので、本文抽出時は API の展開結果か `Page:` 名前空間 |
| （14,326 ページ）が必要。 |
| - **ページ単位は文書単位ではない。** 中央値 570 文字、100 文字未満が 240 ページ。 |
| 和歌集の1首ページなどを含むため、学習文書は作品単位にまとめる。 |
| - **底本が明治以降の版がある。** カテゴリが江戸時代でも `year` が 1881・1916 |
| などのページが 17 件。版違いとして残すか除外するかは別途判断する。 |
| - **底本の刊行年は `Index:` の `年` を見る。** 本体ページの `{{header|year=}}` |
| は作品の成立年で、別物。`<pages>` 作品88件のうち77件は |
| 國文大観（1903–1906）・群書類従（1939–1943）など1868年以降の活字本が底本。 |
| 2.5M文字のうち175k文字だけが1868年以前の底本。 |
| - ライセンスは CC BY-SA 4.0。作品ごとに出典 URL・版・ライセンスを保持する。 |
|
|
| ## テスト |
|
|
| ```bash |
| cd scripts |
| python3 -m unittest -v test_wikisource_dumps.py test_wikisource_stats.py \ |
| test_wikisource_extract.py test_wikisource_extract_main.py \ |
| test_wikisource_fetch_api.py test_wikisource_merge.py |
| ``` |
|
|
