Datasets:

kuramot6f
/

classical-ja-pretrain

mkdir -p wikisource/dumps
cd wikisource/dumps
base=https://dumps.wikimedia.org/jawikisource/20261001
for f in pages-articles.xml.bz2 page.sql.gz categorylinks.sql.gz \
         category.sql.gz linktarget.sql.gz all-titles.gz site_stats.sql.gz md5sums.txt; do
  curl --fail --location --retry 3 -O "$base/jawikisource-20261001-$f"
done
grep -E 'pages-articles\.xml\.bz2|page\.sql\.gz|categorylinks\.sql\.gz|category\.sql\.gz|linktarget\.sql\.gz' \
  jawikisource-20261001-md5sums.txt | md5sum -c -

categorylinks は 2020 年代のスキーマで cl_to を持たず、cl_target_id から linktarget を引く必要があります。linktarget.sql.gz は必須です。

SQLite への取り込み

python3 scripts/wikisource_import_dumps.py \
  --dumps-dir wikisource/dumps --date 20261001 \
  --output wikisource/metadata/jawikisource-20261001.sqlite

取り込むテーブル: page / category / linktarget / catlink。 catlink.category はカテゴリ名（Category: 接頭辞なし、空白は _）です。

統計

python3 scripts/wikisource_stats.py \
  --db wikisource/metadata/jawikisource-20261001.sqlite \
  --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
  --output-dir wikisource/metadata

出力:

ファイル	内容
`stats.json`	集計値（名前空間、選定件数、年、文字数、校正品質）
`era_categories.csv`	時代カテゴリ木（包含・除外・ページ数・除外シグナル判定）
`candidate_pages.csv`	選定ページ（`year_ok` で出版年フィルタ結果を持つ）
`candidate_works.csv`	作品単位に集約した一覧

選定ルール（2026-10-18 決定）

対象: 日本の古典のみ（漢籍・仏典・現代の翻訳・法令は対象外）。
年代: 出版・刊行年基準。{{header|year=}} の西暦を記録し、1868 年以上は year_ok=0 として除外候補にする。年が無いページは削除せず保留（year_ok=1）。
包含: 古代_(日本) / 中世_(日本) / 近世_(日本) の下位カテゴリ。
除外: 近代_(日本) / 現代_(日本) / 明治時代 配下のうち、カテゴリ名に明治・大正・昭和・平成・令和を含むものだけをページ除外に使う。
記事名前空間（ns0）のみ。リダイレクトは除外。

なぜ除外木をそのまま使わないか

カテゴリ木は主題カテゴリで汚染されています。実例:

Category:熊本県 → Category:日本の都道府県 → Category:地方自治法
→ 昭和22年の法律 → 昭和22年の法令 → 昭和の法令 → 昭和 → 近代_(日本)

このため 近代_(日本) の全子孫を除外すると、江戸時代の作品が Category:熊本県 や Category:琉球王国 を持っているだけで落ちます（初回実装では 996 ページ中 22 ページが誤って衝突）。カテゴリ名に元号を含むものだけを除外シグナルにすることで 0 件にしました。

`<pages>` 作品の本文抽出（Page: 直読み）

<pages index="..."/> を使う作品は、本体ページのwikitextに本文がありません。 Page: 名前空間の翻刻をダンプから直接読んで結合します。

python3 scripts/wikisource_extract.py \
  --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
  --candidates wikisource/metadata/candidate_pages.csv \
  --output-dir wikisource/extracted-v1/build-005

--page-id で対象を限定できます（パイロット用）。
出力: works.jsonl（作品単位）、pages.jsonl（ページ境界・校正レベル・文字オフセット）、 text/<page_id>.txt（プレーンテキスト）、raw/<page_id>.wikitext（原文とPage:原文）、 unhandled_templates.csv、report.json。
ページ順は <pages from= to=> の数値を使う。指定が無い場合は Page: の接尾辞を自然順で並べる（表紙 など非数値も扱う）。
<pages index> の _ はダンプ側の空白に正規化する。

テキスト化の規則

処理	対象
削除	`<noinclude>`（柱・ノンブル・`<references/>`）、HTMLコメント、`<pagequality>`
削除	返り点 `{{re}}` `{{レ}}` `{{一}}`〜`{{十}}` `{{上}}` `{{下}}` `{{中}}` `{{chu}}`
削除	レイアウト `{{nop}}` `{{left/s}}` `{{indent/s}}` `{{right/s}}` `{{*/s}}` など
削除	ページリンク・目次 `{{DJVU page link 2}}` `{{Dotted TOC page listing}}`
文字に置換	`{{ku}}`→〱 `{{gu}}`→〲（`{{く}}` `{{ぐ}}` `{{〱}}` `{{〲}}` も同じ）
第1引数を残す	`{{r
引数を連結	`{{分註
削除	`{{:ページ名
未対応	そのまま残し `unhandled_templates.csv` に記録（現在 `{{ママ}}` のみ）

{{r|本文|ルビ}} は第1引数が本文です。ここをルビとして捨てると「竹取物語」の漢字が全部消えるので注意（build-004 で実際に発生）。

本体wikitextの抽出（`<pages>` を使わない作品）

python3 scripts/wikisource_extract_main.py \
  --dump wikisource/dumps/jawikisource-20261001-pages-articles.xml.bz2 \
  --candidates wikisource/metadata/candidate_pages.csv \
  --output-dir wikisource/extracted-v1/main-004

{{header}} を丸ごと除去し、本文だけを残す。
{{:ページ名|...}}（ヘッダ・フッタ）と {{/サブページ}} は除去。
表（{| ... |}）はセルをタブ区切りに変換。
[[File:...]]、カテゴリ、ライセンス、ナビゲーション、{{DEFAULTSORT:...}} を除去。
{{r|本文|ルビ}} {{Ruby|...}} {{*|割注}} などは本文を残す（共通規則）。
出力: documents.jsonl / works.jsonl（作品単位に結合）/ text/ / raw/。

未解決になる作品

一部の作品は本文をwikitextに持たず、テンプレート名前空間の巨大な生成用テンプレート （例: テンプレート:NDLJP899828 1.6MB）と Lua の Module:Remix で本文を組み立てます。

甲陽軍鑑/品第一 → {{:甲陽軍鑑|...}} → {{NDLJP899828|...}}
                                      → {{#Invoke:Remix|conjure|index=Template:...}}

pages-articles.xml.bz2 には Template 名前空間が含まれないため、この方式では解決できません（pages-meta-current.xml.bz2 には含まれる）。該当ページは空文字列として出力され、 documents.jsonl の chars=0 または生wikitextの #Invoke:Remix で識別できます。

未解決ページのAPI取得

未解決ページだけを MediaWiki API で描画します（リビジョン固定）。

python3 scripts/wikisource_fetch_api.py \
  --documents wikisource/extracted-v1/main-004/documents.jsonl \
  --raw-dir wikisource/extracted-v1/main-004/raw \
  --output-dir wikisource/extracted-v1/api-001 --interval 1.0

action=parse&oldid=<revid>&maxlag=5。返却 revid が一致しなければ停止。
User-Agent 明示、1秒間隔、429/5xx は Retry-After を尊重して再試行。
HTMLから style/script/rt/rp、#navigationHeader、#navigationNotes、 #navigationFooter、.mw-inputbox-centered を除去。
出力: documents.jsonl（oldid、revid、sha256、取得時刻）、text/、raw/*.html。
既存のテキストはスキップ。--refresh で再取得。

3系統の統合と重複除去

python3 scripts/wikisource_merge.py \
  --pages-dir wikisource/extracted-v1/build-006 \
  --main-dir wikisource/extracted-v1/main-004 \
  --api-dir wikisource/extracted-v1/api-002 \
  --output-dir wikisource/corpus-v1

同一タイトルは API > <pages> > 本体wikitext の順で採用。
空白を除いた本文SHA-256が同じものは重複として除去。
作品の親ページに全文があり、下位ページ本文がその部分文字列なら下位ページを除去。
作品単位に結合する。章順は親ページの目次リンク順、目次が無ければページID順。
版違い（舊字/新字、國文大觀、群書類從、国史研究会、我自刊我書など）は別の作品グループとして保持し、edition に版名を入れる。
出力: documents.jsonl（ページ単位・本文inline）、works.jsonl（作品単位）、 duplicates.jsonl（除去理由）、report.json。

既知の注意点

時代カテゴリの網羅率は低い。 ns0 非リダイレクト 20,811 ページのうち、時代名カテゴリに直接入っているのは 6,671 ページ。時代カテゴリの無い古典もあるため、カテゴリ選定は「取りこぼし前提」で監査する。
<pages index="..."/> の作品がある。 選定 996 ページ中 88 ページ。 wikitext に本文が無いので、本文抽出時は API の展開結果か Page: 名前空間（14,326 ページ）が必要。
ページ単位は文書単位ではない。 中央値 570 文字、100 文字未満が 240 ページ。和歌集の1首ページなどを含むため、学習文書は作品単位にまとめる。
底本が明治以降の版がある。 カテゴリが江戸時代でも year が 1881・1916 などのページが 17 件。版違いとして残すか除外するかは別途判断する。
底本の刊行年は Index: の 年 を見る。 本体ページの {{header|year=}} は作品の成立年で、別物。<pages> 作品88件のうち77件は國文大観（1903–1906）・群書類従（1939–1943）など1868年以降の活字本が底本。 2.5M文字のうち175k文字だけが1868年以前の底本。
ライセンスは CC BY-SA 4.0。作品ごとに出典 URL・版・ライセンスを保持する。

テスト

cd scripts
python3 -m unittest -v test_wikisource_dumps.py test_wikisource_stats.py \
  test_wikisource_extract.py test_wikisource_extract_main.py \
  test_wikisource_fetch_api.py test_wikisource_merge.py

Wikisource（ja）ダンプの取得と明治以前サブセットの統計

取得するダンプ