Datasets:
File size: 10,829 Bytes
7a088d4 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 | # Wikisource（ja）ダンプの取得と明治以前サブセットの統計
`jawikisource` の公式ダンプから、明治以前の日本古典をカテゴリで選定し、
件数・文字数・本文形式を測るためのスクリプトです。
## 取得するダンプ
再現性のため `latest` ではなく日付ディレクトリを使います（ここでは 2026-10-01）。
```bash
mkdir -p wikisource/dumps
cd wikisource/dumps
base=https://dumps.wikimedia.org/jawikisource/20261001
for f in pages-articles.xml.bz2 page.sql.gz categorylinks.sql.gz \
category.sql.gz linktarget.sql.gz all-titles.gz site_stats.sql.gz md5sums.txt; do
curl --fail --location --retry 3 -O "$base/jawikisource-20261001-$f"
done
grep -E 'pages-articles\.xml\.bz2|page\.sql\.gz|categorylinks\.sql\.gz|category\.sql\.gz|linktarget\.sql\.gz' \
jawikisource-20261001-md5sums.txt | md5sum -c -
```
`categorylinks` は 2020 年代のスキーマで `cl_to` を持たず、`cl_target_id` から
`linktarget` を引く必要があります。`linktarget.sql.gz` は必須です。
## SQLite への取り込み
```bash
python3 scripts/wikisource_import_dumps.py \
--dumps-dir wikisource/dumps --date 20261001 \
--output wikisource/metadata/jawikisource-20261001.sqlite
```
取り込むテーブル: `page` / `category` / `linktarget` / `catlink`。
`catlink.category` はカテゴリ名（`Category:` 接頭辞なし、空白は `_`）です。
## 統計
```bash
python3 scripts/wikisource_stats.py \
--db wikisource/metadata/jawikisource-20261001.sqlite \
--dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
--output-dir wikisource/metadata
```
出力:
| ファイル | 内容 |
| --- | --- |
| `stats.json` | 集計値（名前空間、選定件数、年、文字数、校正品質） |
| `era_categories.csv` | 時代カテゴリ木（包含・除外・ページ数・除外シグナル判定） |
| `candidate_pages.csv` | 選定ページ（`year_ok` で出版年フィルタ結果を持つ） |
| `candidate_works.csv` | 作品単位に集約した一覧 |
## 選定ルール（2026-10-18 決定）
- 対象: 日本の古典のみ（漢籍・仏典・現代の翻訳・法令は対象外）。
- 年代: 出版・刊行年基準。`{{header|year=}}` の西暦を記録し、1868 年以上は
`year_ok=0` として除外候補にする。年が無いページは削除せず保留（`year_ok=1`）。
- 包含: `古代_(日本)` / `中世_(日本)` / `近世_(日本)` の下位カテゴリ。
- 除外: `近代_(日本)` / `現代_(日本)` / `明治時代` 配下のうち、**カテゴリ名に
明治・大正・昭和・平成・令和を含むものだけ**をページ除外に使う。
- 記事名前空間（ns0）のみ。リダイレクトは除外。
### なぜ除外木をそのまま使わないか
カテゴリ木は主題カテゴリで汚染されています。実例:
```
Category:熊本県 → Category:日本の都道府県 → Category:地方自治法
→ 昭和22年の法律 → 昭和22年の法令 → 昭和の法令 → 昭和 → 近代_(日本)
```
このため `近代_(日本)` の全子孫を除外すると、江戸時代の作品が
`Category:熊本県` や `Category:琉球王国` を持っているだけで落ちます
（初回実装では 996 ページ中 22 ページが誤って衝突）。
カテゴリ名に元号を含むものだけを除外シグナルにすることで 0 件にしました。
## `<pages>` 作品の本文抽出（Page: 直読み）
`<pages index="..."/>` を使う作品は、本体ページのwikitextに本文がありません。
`Page:` 名前空間の翻刻をダンプから直接読んで結合します。
```bash
python3 scripts/wikisource_extract.py \
--dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
--candidates wikisource/metadata/candidate_pages.csv \
--output-dir wikisource/extracted-v1/build-005
```
- `--page-id` で対象を限定できます（パイロット用）。
- 出力: `works.jsonl`（作品単位）、`pages.jsonl`（ページ境界・校正レベル・文字オフセット）、
`text/<page_id>.txt`（プレーンテキスト）、`raw/<page_id>.wikitext`（原文とPage:原文）、
`unhandled_templates.csv`、`report.json`。
- ページ順は `<pages from= to=>` の数値を使う。指定が無い場合は
`Page:` の接尾辞を自然順で並べる（`表紙` など非数値も扱う）。
- `<pages index>` の `_` はダンプ側の空白に正規化する。
### テキスト化の規則
| 処理 | 対象 |
| --- | --- |
| 削除 | `<noinclude>`（柱・ノンブル・`<references/>`）、HTMLコメント、`<pagequality>` |
| 削除 | 返り点 `{{re}}` `{{レ}}` `{{一}}`〜`{{十}}` `{{上}}` `{{下}}` `{{中}}` `{{chu}}` |
| 削除 | レイアウト `{{nop}}` `{{left/s}}` `{{indent/s}}` `{{right/s}}` `{{*/s}}` など |
| 削除 | ページリンク・目次 `{{DJVU page link 2}}` `{{Dotted TOC page listing}}` |
| 文字に置換 | `{{ku}}`→〱 `{{gu}}`→〲（`{{く}}` `{{ぐ}}` `{{〱}}` `{{〲}}` も同じ） |
| 第1引数を残す | `{{r|本文|ルビ}}` `{{ruby|本文|ルビ}}` `{{soe|ニ}}` `{{*|割注}}` `{{傍点|…}}` `{{註|…}}` など |
| 引数を連結 | `{{分註|…}}` `{{MarginNote|text=…}}` |
| 削除 | `{{:ページ名|...}}`（ヘッダ・フッタのトランスクルージョン） |
| 未対応 | そのまま残し `unhandled_templates.csv` に記録（現在 `{{ママ}}` のみ） |
`{{r|本文|ルビ}}` は**第1引数が本文**です。ここをルビとして捨てると
「竹取物語」の漢字が全部消えるので注意（build-004 で実際に発生）。
## 本体wikitextの抽出（`<pages>` を使わない作品）
```bash
python3 scripts/wikisource_extract_main.py \
--dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
--candidates wikisource/metadata/candidate_pages.csv \
--output-dir wikisource/extracted-v1/main-004
```
- `{{header}}` を丸ごと除去し、本文だけを残す。
- `{{:ページ名|...}}`（ヘッダ・フッタ）と `{{/サブページ}}` は除去。
- 表（`{| ... |}`）はセルをタブ区切りに変換。
- `[[File:...]]`、カテゴリ、ライセンス、ナビゲーション、`{{DEFAULTSORT:...}}` を除去。
- `{{r|本文|ルビ}}` `{{Ruby|...}}` `{{*|割注}}` などは本文を残す（共通規則）。
- 出力: `documents.jsonl` / `works.jsonl`（作品単位に結合）/ `text/` / `raw/`。
### 未解決になる作品
一部の作品は本文をwikitextに持たず、**テンプレート名前空間の巨大な生成用テンプレート**
（例: `テンプレート:NDLJP899828` 1.6MB）と Lua の `Module:Remix` で本文を組み立てます。
```
甲陽軍鑑/品第一 → {{:甲陽軍鑑|...}} → {{NDLJP899828|...}}
→ {{#Invoke:Remix|conjure|index=Template:...}}
```
`pages-articles.xml.bz2` には Template 名前空間が含まれないため、この方式では解決できません
（`pages-meta-current.xml.bz2` には含まれる）。該当ページは空文字列として出力され、
`documents.jsonl` の `chars=0` または生wikitextの `#Invoke:Remix` で識別できます。
## 未解決ページのAPI取得
未解決ページだけを MediaWiki API で描画します（リビジョン固定）。
```bash
python3 scripts/wikisource_fetch_api.py \
--documents wikisource/extracted-v1/main-004/documents.jsonl \
--raw-dir wikisource/extracted-v1/main-004/raw \
--output-dir wikisource/extracted-v1/api-001 --interval 1.0
```
- `action=parse&oldid=<revid>&maxlag=5`。返却 `revid` が一致しなければ停止。
- User-Agent 明示、1秒間隔、429/5xx は `Retry-After` を尊重して再試行。
- HTMLから `style`/`script`/`rt`/`rp`、`#navigationHeader`、`#navigationNotes`、
`#navigationFooter`、`.mw-inputbox-centered` を除去。
- 出力: `documents.jsonl`（oldid、revid、sha256、取得時刻）、`text/`、`raw/*.html`。
- 既存のテキストはスキップ。`--refresh` で再取得。
## 3系統の統合と重複除去
```bash
python3 scripts/wikisource_merge.py \
--pages-dir wikisource/extracted-v1/build-006 \
--main-dir wikisource/extracted-v1/main-004 \
--api-dir wikisource/extracted-v1/api-002 \
--output-dir wikisource/corpus-v1
```
- 同一タイトルは API > `<pages>` > 本体wikitext の順で採用。
- 空白を除いた本文SHA-256が同じものは重複として除去。
- 作品の親ページに全文があり、下位ページ本文がその部分文字列なら下位ページを除去。
- 作品単位に結合する。章順は親ページの目次リンク順、目次が無ければページID順。
- 版違い（舊字/新字、國文大觀、群書類從、国史研究会、我自刊我書 など）は
別の作品グループとして保持し、`edition` に版名を入れる。
- 出力: `documents.jsonl`（ページ単位・本文inline）、`works.jsonl`（作品単位）、
`duplicates.jsonl`（除去理由）、`report.json`。
## 既知の注意点
- **時代カテゴリの網羅率は低い。** ns0 非リダイレクト 20,811 ページのうち、
時代名カテゴリに直接入っているのは 6,671 ページ。時代カテゴリの無い古典も
あるため、カテゴリ選定は「取りこぼし前提」で監査する。
- **`<pages index="..."/>` の作品がある。** 選定 996 ページ中 88 ページ。
wikitext に本文が無いので、本文抽出時は API の展開結果か `Page:` 名前空間
（14,326 ページ）が必要。
- **ページ単位は文書単位ではない。** 中央値 570 文字、100 文字未満が 240 ページ。
和歌集の1首ページなどを含むため、学習文書は作品単位にまとめる。
- **底本が明治以降の版がある。** カテゴリが江戸時代でも `year` が 1881・1916
などのページが 17 件。版違いとして残すか除外するかは別途判断する。
- **底本の刊行年は `Index:` の `年` を見る。** 本体ページの `{{header|year=}}`
は作品の成立年で、別物。`<pages>` 作品88件のうち77件は
國文大観（1903–1906）・群書類従（1939–1943）など1868年以降の活字本が底本。
2.5M文字のうち175k文字だけが1868年以前の底本。
- ライセンスは CC BY-SA 4.0。作品ごとに出典 URL・版・ライセンスを保持する。
## テスト
```bash
cd scripts
python3 -m unittest -v test_wikisource_dumps.py test_wikisource_stats.py \
test_wikisource_extract.py test_wikisource_extract_main.py \
test_wikisource_fetch_api.py test_wikisource_merge.py
```
|