ShrimpLM/WellDone-Wiki

最新の日本語Wikipedia全記事に含まれる情報を低損失でプレーンテキストに変換した事前学習用高品質データセット

How to use

import datasets
ds = datasets.load_dataset("ShrimpLM/WellDone-Wiki",name="ja",split="train",revision="20260701")

text = ds[0]["text"]
title = ds[0]["title"]

Why WellDone?

WikipediaのHTMLをプレーンテキストに変換したデータセットでは、Wikipediaの複雑なページ構造をテキストに変換する過程でTableが持つ情報が失われる場合があります。

Infoboxには本文の前提となる情報が多く含まれていますが、Tableで表現されているため、Tableを変換する過程でこれらの情報の大半は削除または判別不能になりやすく、結果として多くのデータセットの変換後テキストではInfobox内の情報が削除されています。 (例としてHuggingFaceFW/finewikiでは、InfoboxはJSONに変換されて本文とは別に保存されています。)

本データセットは、InfoboxやTableが持つ情報を可能な限り損なわずにテキストデータに変換することを目的として構築されました。

事前学習用データセットとしての方針

• 言語モデルが予測可能なフォーマット
  • テーブルの見た目を整えるためのスペースの数は文字幅から算出されるため予測難易度が高いと考え、テーブル内のヘッダ(th)は右寄せ、データ(td)は左寄せになっています。これにより、ヘッダとデータの間のスペースは常に1つになります。これは人間の可読性よりも予測可能性を優先した選択です。
• 人間が容易に解釈可能
• Tableの情報を可能な限り削除しない
• 本文に関係のないノイズの排除
  • ただし、HTML上での判別が困難である場合はそのまま残す
• 画像や家系図、路線図などテキストデータで再現困難な視覚的要素の排除
• マークダウンは一切含まない

構築方法

Wikimedia Enterprise HTML dump API (https://api.enterprise.wikimedia.com/v2/snapshots) からSnapshotを取得してHTMLを取得し、PythonスクリプトでHTMLを前処理した後にw3mを使用してテキストに変換しました。 その過程で、学習に適さない曖昧さ回避カテゴリに属するページ（曖昧さ回避の子カテゴリを含む）を削除しました。 変換品質の向上のため、LLMを使ってHTMLとテキストの一致を確認させて問題点(ページの崩壊や情報の欠落、管理用タグの残留など)を検出するパイプラインを構築し、変換スクリプトの修正効率を向上させました。

Data Fields

• wiki_type (str): 'jawiki'
• page_id (int): MediaWiki ページID
• text (str): マークダウンを含まないPlain text
• text_length (int): textの文字数 #len(text)
• text_bytes (int): textのバイト数 #len(text.encode("utf-8"))
• title (str): 記事のタイトル
• category (List[str]): カテゴリの一覧
• timestamp (str): 更新日
• create_timestamp (str): 作成日
• version (int): ページのリビジョンid

想定用途

言語モデルの事前学習を念頭に開発されましたが、RAGやMCP等の用途にも使用可能です。

統計情報

構築時(2026/07/01)の記事数 : 1455688件

データの例 記事名:日本

                                                  日本国
日本国
 
国旗
 
（事実上の国章）
国璽
 
大日本國璽
 
 

  •   日本国の領土
  •   日本国が領有を主張する地域

国の標語：なし
国歌：君が代
         公用語 日本語（事実上）
           首都 東京都（事実上）
     最大の都市 東京都区部
                                                   政府
           天皇 徳仁
   内閣総理大臣 高市早苗
 国会衆議院議長 森英介
 国会参議院議長 関口昌一
 最高裁判所長官 今崎幸彦
                                                   面積
           統計 377,975.64km^2（62位）
       水面積率 0.8%
                                                   人口
 統計（2025年） 1億2316万5000人（12位）
       人口密度 333.7人/km^2
                                           GDP（自国通貨表示）
 合計（2025年） 名目663兆5000億円（¥）
                                                GDP（MER）
 合計（2023年） 4兆2308億ドル（4位）
      1人あたり 33,950ドル
                                                GDP（PPP）
 合計（2023年） 6兆4952億ドル（4位）
      1人あたり 52,120ドル
           建国 諸説あり（神話に基づく明治政府の定めによれば、紀元前660年2月11日。紀元節も参照。）
           通貨 円（¥）（JPY）
         時間帯 UTC+9（DST:なし）
     ISO 3166-1 JP / JPN
          ccTLD .jp
   国際電話番号 81

日本国（にほんこく、にっぽん-）、または日本（にほん、にっぽん）は、東アジアに位置する国家。面積は 377,975.64 km^2（平方キロメートル）、人口は1億2316万5000人（2025年12月1日現在）。首都は東京都（事実上）。

概要

東アジアの島国であり、北海道・本州・四国・九州の主要4島をはじめとする1万4125の島嶼群から構成される。国土面積は世界61位から63位であり、ほかに世界第6位から8位の排他的経済水域を持つ。起伏に富んだ地形であり、国土の75%は山地・丘陵地で、平地は比較的少ない。最高峰の富士山（3776メートル）をはじめ、3000メートルを超える高山は国土の中央部にあたる中部地方に集中する。気候は温暖湿潤気候が中心で、四季が明瞭である。一方で他国に比べ自然災害が多く、地震や津波の被害を受けやすい。国土の67%が森林で、6000種以上の固有種を含む多様な生物相を有する。
.....

Licensing Information

This dataset contains text from Wikipedia, licensed under Creative Commons Attribution-ShareAlike 4.0 (CC BY-SA 4.0) and also available under GFDL. See Wikipedia’s licensing and Terms of Use: https://dumps.wikimedia.org/legal.html

Our processed release is an adaptation of that text and is licensed under CC BY-SA 4.0.