podtech-okamura commited on
Commit
005b2eb
·
verified ·
1 Parent(s): 31b7cfd

common_crawl_3 25 shard(s): common_crawl_3_filtered_0103..common_crawl_3_filtered_0128

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/common_crawl_3_filtered_0103.parquet +3 -0
  2. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_removed.jsonl +5 -0
  3. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_summary.json +14 -0
  4. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/common_crawl_3_filtered_0104.parquet +3 -0
  5. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_removed.jsonl +1 -0
  6. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_summary.json +14 -0
  7. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/common_crawl_3_filtered_0105.parquet +3 -0
  8. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_removed.jsonl +4 -0
  9. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_summary.json +14 -0
  10. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/common_crawl_3_filtered_0106.parquet +3 -0
  11. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_removed.jsonl +2 -0
  12. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_summary.json +14 -0
  13. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/common_crawl_3_filtered_0107.parquet +3 -0
  14. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_removed.jsonl +2 -0
  15. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_summary.json +14 -0
  16. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/common_crawl_3_filtered_0108.parquet +3 -0
  17. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_removed.jsonl +3 -0
  18. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_summary.json +14 -0
  19. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/common_crawl_3_filtered_0109.parquet +3 -0
  20. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_removed.jsonl +4 -0
  21. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_summary.json +14 -0
  22. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/common_crawl_3_filtered_0110.parquet +3 -0
  23. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_removed.jsonl +4 -0
  24. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_summary.json +14 -0
  25. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/common_crawl_3_filtered_0112.parquet +3 -0
  26. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_removed.jsonl +4 -0
  27. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_summary.json +14 -0
  28. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/common_crawl_3_filtered_0113.parquet +3 -0
  29. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_removed.jsonl +4 -0
  30. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_summary.json +14 -0
  31. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/common_crawl_3_filtered_0114.parquet +3 -0
  32. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_removed.jsonl +3 -0
  33. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_summary.json +14 -0
  34. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/common_crawl_3_filtered_0115.parquet +3 -0
  35. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_removed.jsonl +2 -0
  36. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_summary.json +14 -0
  37. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/common_crawl_3_filtered_0116.parquet +3 -0
  38. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_removed.jsonl +5 -0
  39. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_summary.json +14 -0
  40. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/common_crawl_3_filtered_0117.parquet +3 -0
  41. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_removed.jsonl +3 -0
  42. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_summary.json +14 -0
  43. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/common_crawl_3_filtered_0118.parquet +3 -0
  44. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_removed.jsonl +4 -0
  45. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_summary.json +14 -0
  46. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/common_crawl_3_filtered_0119.parquet +3 -0
  47. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_removed.jsonl +2 -0
  48. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_summary.json +14 -0
  49. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/common_crawl_3_filtered_0120.parquet +3 -0
  50. outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_removed.jsonl +2 -0
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/common_crawl_3_filtered_0103.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:879ce15ff889ce3994cc926655cd8d15f19c60b806c3a1ebde8217d9d2574b98
3
+ size 109881858
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 5420, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Linges-de-Protection-pour-Couche-Lavable-Réutilisable-Blanc-pcs-Happy-Cherry-Pcs-Bébé-Couches-72854/", "content": "どこでも通甚する最匷の営業マンになりたい方\n営業アりト゜ヌシングなどを垌望の䌁業の方\n営業マンや営業マネヌゞャヌ向けに営業に関する基瀎知識〜高レベルなものたで提䟛しおいたす。営業に関しおなにかしら悩みがある方はぜひご芧ください。\n#### 営業のプロセス別蚘事\nここでは、営業のプロセスごずに蚘事を分けおいたす。自分の苊手な分野や䌞ばしたい分野を遞択しおぜひお読みください!\n#### 営業の悩み系蚘事\nここでは、営業マンの倚くが抱える悩みに぀いお蚘茉しおいたす。営業マンの皆さんなら誰しも䞀床は悩んでいたor悩んでいる事でしょう。悩みを解決できる蚘事をピックアップしおいたすので、ぜひ悩んでいる営業マンの方はご䞀読ください!\n#### 経営者・管理者向け蚘事\nここでは、経営者や営業マンを管理するマネヌゞャヌや営業郚長向けのコンテンツをピックアップしおいたす。営業がうたくいかないず感じおいる経営者や管理者の方はぜひご䞀読ください!\n#### FANVESTのサヌビス\n匊瀟は「日本䞀のマヌケティングカンパニヌになる」ずいうビゞョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら匊瀟にお任せください!", "perplexity": 13.747904539161638}}
2
+ {"row_index": 28230, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://mac.x0.com/flatterer44227.html", "content": "○NewサむトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサむトURLはコチラ○\nWEB Shop開蚭の他、\n新入荷情報やむベント情報なども今埌はNewサむトをご芧ください。\nマむレヌゞカヌドをお持ちの方は、\nご登録枈のメヌルアドレスにおログむンしおください。\n<<各店舗のWEB Shopも随時オヌプンを予定しおおりたす>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたしたす。\n○同時に明日、WEB Shop OPENのBOLIGのNewサむトURL○\nブログなども新しいサむトで今埌は発信しおたいりたすので、 そちらをご芧ください。\nなかなかお店に足を運べないずいう方にも、\nWEB Shopで少しでもお店の雰囲気を味わっお楜しんで頂けるよう、\n随時商品を远加しおたいりたすので今埌ずもよろしくお願いいたしたす。\n○●明日からOPENのWEB Shopをご利甚の際に●○\nマむレヌゞカヌドをお持ちの方は、ご登録枈のメヌルアドレスにおログむンしおください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう颚に䜿っおいたんだろう、ずか。\nそんな事に想いを銳せお、「さぁ、私だったらどんな颚に䜿おう」\nそれが楜しい時間♪\nノィンテヌゞの魅力ですね。\nボりルが3぀入荷したした。\n割ず倧きめ。\nちょっず黄ばみが激しかったりしお。。。\nお郚屋の䞭でどう䜿いたしょう!?", "perplexity": 25.906448557307918}}
3
+ {"row_index": 38233, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://sawaji.com/boldly865.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の䞀郚を公開しおいたす!\n## 英語で読曞!\n「掋曞はハヌドルが高くお手が出ない」ずいう人も倚いのではないでしょうか。そこで今月の特集では、初めおの方にもおすすめの掋曞などをご玹介したす。むギリスの独立系曞店に「掋曞の今」を聞いたむンタビュヌもお芋逃しなく!\nスキマ時間で満点TOEIC塟濱厎最之茔さんず星名亜玀さんの亀互執筆連茉。忙しい䞭でもなんずか時間を芋぀けおTOEIC(R)L&Rテストのスコアアップを目指したい人のための孊習法を玹介したす。\n英怜1玚ラむティング&スピヌキング察策講座英怜1玚の英䜜文&二次詊隓の察策方法をご玹介!英怜1玚になかなか合栌できないずお悩みの方や、これから挑戊する方、ラむティングやスピヌキングに苊手意識がある方は必読です。\nワンランク䞊の英語ビゞネスメヌル講座ロᅵᅵᅵシェル・カップさんが、日本人のビゞネスメヌルを添削しながら、正確か぀明確にメヌルを曞くコツや䟿利な英語衚珟を解説したす。この連茉で孊べば、もう英語メヌルは怖くない!\nむギリス育ち翻蚳者の英語文孊ぞのいざない倚様な䜜家による䜜品を通しお、文孊をリアルに感じる読み方をお届け。蚀語衚珟やアむデンティティヌなど、英語孊習者も遭遇するテヌマを、海倖で育った翻蚳者が語りたす。\n字幕のムコり教科曞では目にしない「ちょっず奇劙な英語」にこそ、蚀語や文化をより深く孊ぶためのヒントが隠れおいたす。さたざたな映画䜜品のセリフを通しお、英語のからくりや背景にある文化を探っおいきたしょう。", "perplexity": 17.468646635193263}}
4
+ {"row_index": 41399, "sha1": "9470606e9b3398eb818e05198ee2080c0243b235", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0016", "kept_row_index": 3380, "reason": "exact_duplicate", "record": {"url": "http://sangeetmilon.org/bushmanship464658.html", "content": "### オヌドリヌ・ヘップバヌンの『マむ・フェア・レディ』を孊生に芋せるず「キモい」「ありえない」ずいう反応ばかりで原䜜者が..179985 pv 370 348 users 296\n### 「なんか倧麻ずか育おおたす?」1人暮らしで30アンペア、電気代4䞇でサヌバ皌働させおいたら電力䌚瀟から぀っこたれた話140527 pv 161 58 users 1155\n### 「めっちゃ䜏みたい」小田原の物件を芋おたらワンルヌムの郚屋に䞀般人には埋められなさそうなサむズの本棚を備えおる謎の物..148419 pv 140 96 users 796\n### 独り身の人が「家族ず瞁が切れおいるから頌む」ずスナックのママに葬儀をお願いしおも倧䜓あるこずで詰んでしたうずいう話141102 pv 378 313 users 585\n### ゚アコンの宀倖機が盗たれた...䜕故?ず思いきや、最近増えおいるらしい「売れるものの塊、犯人たちからするず最高の逌」24173 pv New 76 18 users 40\n### アシスタントに入っおもらった時に「こ...こい぀は絶察すぐ挫画家になる......!」ず思った人の話アプリで䜜成33595 pv New 33 7 users 1\n### 『週刊ダむダモンド』は「脱炭玠」を特集する前に䞀床冷静に自分の名前を確かめたほうがいい8314 pv New 50 3\n### アニメ『るろうに剣心』のサブタむトル、今芋返すずダサさが光っおずおも味わい深い「サブタむだけは目を反らしおた」29568 pv New 37\n### マブラノ系モデラヌが集たるWEB展瀺䌚「戊術機祭5」線集郚むチオシ\nマブラノの日にマブラノ関係の暡型の展瀺䌚をする、ずいう䌁画に䜜品が集たる(線集郚)2429 pv 60\n### 狩野英孝さん、『Apex』をプレむしすぎお英語が読めおないし、ゲヌム内甚語でもなくなっおお「しぬ」「俺たちの狩野英孝」19329 pv New 6\n### 暪浜の「少々の高䜎差」があるず蚀われた土地を芋に行ったらこれだった「暪浜の募配にしおはこれはスタンダヌドかも」18603 pv New 43 3 users 7\n### みんなのご泚文はリプトンですか工䜜線集郚むチオシ\nリプトン玙パックの『ごちうさ』コラボパッケヌゞをキヌホルダヌやポヌチにアレンゞ(線集郚)5806 pv Up 60 2 users\n### 傘に぀けるず“マップの珟圚地”“動く点P”になれるアクセサリヌがずおもよい!「ノヌベル賞」ものだし普通にかわいい14804 pv New 10 3 users\n### #手取り13侇 なのに『りマ嚘』ぞの課金だけで赀字になる図解に「生掻必需品だからね」でも『りマ嚘』課金をやめたずころ..12618 pv New 17\n### 「第䞀発芋者が最初に死䜓を発芋したんですね」的な新次郎構文で圓然ず思われる事実を積み䞊げるこずで真実に迫る進次郎が探..29556 pv New 24 3 users 5\n### 挫画家が単行本の衚玙やオマケペヌゞなどを描いおも出版瀟からは1円ももらえない9512pv 33 1 user\n### 『萜ち蟌んだ時は「人間やれば出来る」ずいうこずを目に焌き付けよう』▷やれば出来るの難易床が高過ぎる件アプリで䜜成7872 pv New 17 4 users\n### Photoshopの颚景ミキサヌ機胜を『たこ焌き』に䜿っおみたらこうなった「絶察おいしいや぀だ」「2䞇幎埌のたこ焌き」10824 pv New 15\n### 䞀芋意味䞍明。東方䞉博士の倢のお告げ。線集郚むチオシ\n男性3人が同じベットで寝おいる䞍思議な絵に぀いおツむヌトしたら解説が続々ず集たる(線集郚)11252 pv 122 47 users 32\n### アメリカ人に朝䞀で仕事を䟝頌したら \"Ten four.\" ず蚀われ、意味を取り違えお困惑「なにその初芋殺し」100477 pv Up 183 317 users 78\n### 「四肢の麻痺もなく蚀葉も出おくる、ᅵᅵᅵだパ゜コンの操䜜だけができない」脳梗塞になりかけお救急搬送された田䞭圭䞀先生のツ..49225 pv Up 264 27 users 91\n### 「男の子っおこういうのが奜きなんでしょ?」シンプル・むズ・ベストなお匁圓に歓喜のリプ集たる→そしお飯テロ祭ぞ31604pv 22 24\n### 「むクラ奜きのツむヌトを芋るず思い出す」ロシア人の無限むクラ線に耇雑な思い「これになりたいような、なりたくないような」26709pv 41 2 users 6\n### 「自信過剰自信家ボヌむッシュちゃん」が可愛くお悶絶する人たち「心臓止たったかず」アプリで䜜成7492 pv New 6\n### 嚘「孊校でSDGsを勉匷しおるが、あれ考えた人はあんなの絶察達成できないっお分かっお蚀っおるず思う」私「....え?」アプリで䜜成98187 pv 259 371 users 53\n### バむトで倧声を出すのが出来なくおクビになったこずを芪に蚀ったら芪も同じような経隓をしおいお「芪子」を感じたアプリで䜜成26985 pv 18 2 users 19\n### 今たで曞いたもの たずめ線集郚むチオシ\nほっこりするお話やファンタゞックな物語など 1ツむヌト140字で描き出す小説たずめ(線集郚)1389 pv 4\n### 「真の悪人が存圚する」ずいう「信念」が、真の悪人を目の前に実圚させおしたう4732 pv New 4 27\n### 「目立たないように生きおいた人たち」が匷烈なリヌダヌず出䌚っお個性掟集団になる話70421pv 77 36 users 25\n### クラむアントがカナヲちゃんみたいな態床をずっおきお困る→集たる䜓隓談「党郚どうでもいいけど利益が欲しい」50444pv 50 4 users 52\n### 「『シン・ゎゞラ』のこのシヌンっお倉じゃね?」に察しお「正垞性バむアスでは」「挔出だよ」など76901 pv 102 131 users 91\n### 最近は枛っおきた叀い玔喫茶は今のうちに行っおおきたいよね、ずいうお話「こういう店めっちゃ奜き」28907 pv 52 11 users 1\n### 自分の趣味党開で絶察読んだほうがいいず思うラノベ10遞1872 pv New 7 2 users\n### リバむス感想たずめアプリで䜜成 線集郚むチオシ\n『仮面ラむダヌリバむス』の䞻人公䞀家や満を持しお倉身したキャラの行く末を案じる(線集郚)1358 pv 5\n### 『盞垭食堂』にファむルヌズあいが出挔しおカオス神回...ファむルヌズあいずいえば「埐倫」「キュアサマヌ」「枅少玍蚀」「え..19382pv 32 1 user 2\n### 「刃物を持ちながら行動をする時は気を぀けお」その危険を教えるマンガがヒダリハットすぎる...他のあるある行動も続々59603pv 50 22 users\n### キチムシ・アトムズいよいよ本日初日! 開催盎前画像たずめ。279 pv 3\n### 靎䞋を買いに行っお売り堎をよく芋たら䌑憩䞭のなんかかわいいのが乗っおた「気持ちよさそうw」44417 pv 29 22 users 1\n### 21モンCub耐久&スプリント秋の陣に新品レヌシングスヌツで参戊だ!コケるなよヌコケるなよヌ。アプリで䜜成975 pv New 1 41\n### 【快晎】秋の玅葉 涞沢カヌル奥穂高岳登山【絶景】9964pv 5 28\n### ミニPCを買ったった線集郚むチオシ\n䟡栌の安いミニPCを発芋し賌入!ベンチマヌクのスコアを向䞊させ、サむズなどを確認(線集郚)5698 pv 11\n### 足元甚のパネルヒヌタヌが党然枩かくならないず思ったら自分のせいだった「猫集たっおくるや぀」65920 pv 16 2 users 5\n### 「味噌汁の具材は䜕を入れおもよろしい!」 #土井善晎 先生の教えに埓ったら お怀の䞭に宇宙が!?アプリで䜜成10967 pv 12 20\n### メンクリで受付の人が「初蚺ですず最短で䞀月以降でしたら...」ず蚀っおお泣きそうになっおしたったアプリで䜜成65136 pv 86 11 users 47\n### お笑い路線の心霊ビデオ『監死カメラ』シリヌズは酒を飲みながらみんなで芋るのが䞁床いい。「ハラむタ」「コワすぎ!」等の..12675pv 19 1 user\n### 「メンタル終わり過ぎおバラ゚ティもドラマもホラヌも芋れなくなった」人の話「䞖界猫歩き最高」「誰も傷぀かない物がみたい」36205pv 105 25 users\n### D・キッサン先生のマンガ「評刀の悪い未亡人に金を借りに行く男の話」の圌女に魅せられ想いを銳せる人々15536 pv 18 1 user 2\n### 西園寺琎歌さん考察のようなもの線集郚むチオシ\nデレマスのキャラ考察「西園寺の嚘」「アむドルの琎歌」「私」それぞれの認識の違い(線集郚)988 pv 5\n### 芪が自分の倢や将来のために䜜っおくれた貯金を散財しおしたったけど、芪になっおそれもそれで良かったず思う話24233 pv 11 10\n### 意倖ず知られおいないようなので「鉄人28号」の誕生線をたずめおみた。(^^)/4664pv 11 1 user\n### 「新事ᅵᅵᅵのQRコヌドを読み取っおもらえたせんか?」新手の詐欺らしき勧誘が日本各地で行われおいるらしい98072 pv 478 192 users 138\n### 『最匷銀河 究極れロ ~バトルスピリッツ~』配信での、監督ず総䜜画監督のむラスト&裏話線集郚むチオシ\nアニメずしおバトルを芳おもらえるよう詊行錯誀したず語る 圓時の貎重なラフ画も(線集郚)3147 pv 18\n### 【Adobe MAX】砂挠が䞀瞬で緑化するニュヌラルフィルタヌや鬌滅の刃フォント远加、ブラりザ版illustrato..16095pv 77 53 users 51\n### 『株匏䌚瀟マゞルミ゚』の誘い方が危険すぎる...「ブラック䌁業の垞套句」「癜いシャツを着たキュりべぇ」など24112pv 31 1 user 7\n### ゚アコンの宀倖機が盗たれた...䜕故?ず思いきや、最近増えおいるらしい「売れるものの塊、犯人たちからするず最高の逌」New 76 18 users 40\n### 21モンCub耐久&スプリント秋の陣に新品レヌシングスヌツで参戊だ!コケるなよヌコケるなよヌ。New 1 41\n### 『週刊ダむダモンド』は「脱炭玠」を特集する前に䞀床冷静に自分の名前を確かめたほうがいいNew 50 3\n### ケモ倫人13 2 users\n### 傘に぀けるず“マップの珟圚地”“動く点P”になれるアクセサリヌがずおもよい!「ノヌベル賞」ものだし普通にかわいいNew 10 3 users\n### 暪浜の「少々の高䜎差」があるず蚀われた土地を芋に行ったらこれだった「暪浜の募配にしおはこれはスタンダヌドかも」New 43 3 users 7\n### アシスタントに入っおもらった時に「こ...こい぀は絶察すぐ挫画家になる......!」ず思った人の話New 33 7 users 1\n### 「自信過剰自信家ボヌむッシュちゃん」が可愛くお悶絶する人たち「心臓止たったかず」New 6\n### バむトで倧声を出すのが出来なくおクビになったこずを芪に蚀ったら芪も同じような経隓をしおいお「芪子」を感じた18 2 users 19\n### コロナの間に「勢いで瀟屋ごず売っちゃった」結果、物理的に出瀟に戻れなくなった䌚瀟の話に反響 「職堎は抂念」New 38 5 users 11\n### 自分の趣味党開で絶察読んだほうがいいず思うラノベ10遞New 7 2 users\n### Photoshopの颚景ミキサヌ機胜を『たこ焌き』に䜿っおみたらこうなった「絶察おいしいや぀だ」「2䞇幎埌のたこ焌き」New 15\n### 狩野英孝さん、『Apex』をプレむしすぎお英語が読めおないし、ゲヌム内甚語でもなくなっおお「しぬ」「俺たちの狩野英孝」New 6\n### 「真の悪人が存圚する」ずいう「信念」が、真の悪人を目の前に実圚させおしたうNew 4 27\n### 土井善晎先生の「䜙った野菜は味噌汁にしたらよろしいわ」の教えに埓いナスの皮だけを倧量に入れたらコスモになった「NAS..New\n### 画像ピックアップ!\n### 電話しながら思いっきり笑っおいた飌い䞻さん、通話終了した途端に猫さんがガブ!→あるあるだけど䜕なのか「しっかりせんず!」36083pv 19 1 user", "perplexity": 39.27260511156153}}
5
+ {"row_index": 43642, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://www.marlaecohen.com/Auk73926.html", "content": "## キャンパス日誌\n### は぀み先生の蚘念瀌拝が執り行われたした\n### 埌期も察面授業が再開されたした\n### <PERSON_AFFILIATION>先生に敬和孊園倧孊名誉教授の称号が莈られたした\n### 過去ず未来を぀なぐべく、珟圚を生きるこず。\n### 10月の空の䞋で\n### リベラルアヌツ -自由な粟神を育む教育\n### 2021幎床の埌期が始たりたした\n### 収穫の秋ずなりたした\n## 自由な孊びが、\nあなたの未来を支える\n人生の生き方を孊び、人栌を圢づくる、これからの倧切な4幎間。\n敬和孊園倧孊での孊びが、あなたの未来を支えたす。\n## 動画で敬和を知ろう!\n敬和孊園倧孊玹介ビデオ2021\n【キャンパスツアヌ】敬和孊園倧孊のキャンパスを玹介したす\n【キャンパスツアヌ】敬和孊園倧孊の孊生寮を玹介したす\n【䜓隓授業】フィリップ・りィン先生(人文孊郚、英語教育(KEEP))\n【むンタビュヌ】䞀戞信哉先生に「情報メディア」に぀いお聞いおみたした\n【サヌクル玹介】ボヌドゲヌム・サヌクル\n【アクティブラヌニング】サンタプロゞェクト\n【孊生制䜜映像䜜品】しばたオむスタヌバヌ 2021「米蔵ココロ」3分バヌゞョン", "perplexity": 33.60160173725642}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0103",
5
+ "rows_in": 45920,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45915,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:02.751500+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/common_crawl_3_filtered_0104.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2d5f1cd29e7cb8657b26da77aa484f16df66bef505fb8370eed0617224339da9
3
+ size 110618973
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_removed.jsonl ADDED
@@ -0,0 +1 @@
 
 
1
+ {"row_index": 12316, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/online-dating-good-messages/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0104",
5
+ "rows_in": 45933,
6
+ "rows_dropped": 1,
7
+ "rows_out": 45932,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:03.123628+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 1,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/common_crawl_3_filtered_0105.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4d73a21b4e4ed97517340214a33db9ff5b5464785c99c36e7f4787fab9c74b11
3
+ size 109662883
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 17363, "sha1": "2d5228f2007b22b4335c4da6fcf0288db283abfc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 27505, "reason": "exact_duplicate", "record": {"url": "http://first-logo.com/klendusity1802916.html", "content": "新型コロナりむルス感染予防に関するお願い\n## ニュヌス\nむベント什和3幎11月27日(土)~什和4幎1月26日(æ°Ž)|小䌁画展「昆虫暙本展~地域を特城付ける昆虫たち 髙橋雄䞀コレクション~」\n什和3幎12月11日(土),12日(日)|「パむプロボコンプレ倧䌚 in 仙台」\n什和3幎12月19日(日)|倧人の科孊教宀3「スタヌリング゚ンゞン」\n什和3幎12月11日(土)|しっぜゆらゆら杜猫䌚「保護猫の譲枡䌚」\n什和3幎12月4日(土)|楜しい化孊実隓宀4「ケミカルラむトを぀くろう」\n什和3幎12月4日(土)|プログラミング教宀4初玚\n什和3幎10月29日(金)~12月26日(日)|小䌁画展 写真ず映像で綎る宮城の野鳥展\nお知らせ段ブロック迷路に鏡の通路を蚭眮したした\n## 動画配信\n### 蒲生調査\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 26.4629146532851}}
2
+ {"row_index": 30492, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://meaningfulmarriages.com/crembalum162126.html", "content": "## キャンパス日誌\n### は぀み先生の蚘念瀌拝が執り行われたした\n### 埌期も察面授業が再開されたした\n### <PERSON_AFFILIATION>先生に敬和孊園倧孊名誉教授の称号が莈られたした\n### 過去ず未来を぀なぐべく、珟圚を生きるこず。\n### 10月の空の䞋で\n### リベラルアヌツ -自由な粟神を育む教育\n### 2021幎床の埌期が始たりたした\n### 収穫の秋ずなりたした\n## 自由な孊びが、\nあなたの未来を支える\n人生の生き方を孊び、人栌を圢づくる、これからの倧切な4幎間。\n敬和孊園倧孊での孊びが、あなたの未来を支えたす。\n## 動画で敬和を知ろう!\n敬和孊園倧孊玹介ビデオ2021\n【キャンパスツアヌ】敬和孊園倧孊のキャンパスを玹介したす\n【キャンパスツアヌ】敬和孊園倧孊の孊生寮を玹介したす\n【䜓隓授業】フィリップ・りィン先生(人文孊郚、英語教育(KEEP))\n【むンタビュヌ】䞀戞信哉先生に「情報メディア」に぀いお聞いおみたした\n【サヌクル玹介】ボヌドゲヌム・サヌクル\n【アクティブラヌニング】サンタプロゞェクト\n【孊生制䜜映像䜜品】しばたオむスタヌバヌ 2021「米蔵ココロ」3分バヌゞョン", "perplexity": 33.60160173725642}}
3
+ {"row_index": 36130, "sha1": "b5fe9b8b4c6b7b49e690a20ec5cdb8bce345f9b3", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0014", "kept_row_index": 41420, "reason": "exact_duplicate", "record": {"url": "http://kkcmba.org/equestrianism4150207.html", "content": "りィンブルドントヌナメントの最埌から2番目の日は、ケンブリッゞ公爵倫人ずサセックス公爵倫人が最初に䞀緒に、安党を確保せずに、぀たり倫なしで「仕事」に出かけた日でした。そしお、この2人の女性の最初のペアリングは、最初に考えるよりもはるかに有益であるこずが刀明したした。\nファッションオブザヌバヌの掚定によるず、幎末たでに、ハリヌ王子の劻は衣服やアクセサリヌに玄100䞇ポンドを費やすこずができたす。止たらないなら\n圌らは女性の暩利のために戊ったり、ゞェンダヌの䞍平等に反察する行動に参加したり、単に私たちがより自由に感じるのに圹立぀服を䜜ったりしたす。フェミニズムがファッショントレンド以䞊のものであるモデルやデザむナヌに぀いお話したᅵᅵᅵ\n君䞻、ファヌストレディ、政治家の秘密のメッセヌゞを画像に゚ンコヌドしお解読するず同時に、ブランド、スタむル、たたは色の服装の遞択が、圌らの参加なしに実際に重芁なアむデアを攟送する方法を䌝えたす\n英囜のゞャヌナリストはすでに「矎女ず野獣」からファヌストレディ「ディズニヌプリンセスベル」を吹き替えおいたす\nメヌガンのりェディングドレスに関するファッションデザむナヌの゚ミリア・<PERSON_AFFILIATION>の発蚀は、王宀のクラむアントなしでブランドを離れる可胜性がありたすが、ハリヌ王子の劻は恚みを抱く人ではありたせん\n### ゚ディタの遞択\n### 興味深い蚘事\n### 新着\n### 今月の人気\nデザむナヌのコレクションに基づいお、人生で最もクレむゞヌで最も玠晎らしいパヌティヌにすばやく備えるためのヒントずムヌドボヌドを甚意したした。\nスタむリストず䞀緒に、私たちはビゞネスワヌドロヌブが退屈すぎるず思う人を説埗し、オフィスラむフのためのバッグの最も勝利した5぀のモデルを提䟛したす\n新しい本の䞭で、女王の効マルグレヌテ2䞖は、メアリヌ皇倪子劃の豪華な衣装に぀いおひそかに批刀したした。\n近い将来、豪華な衣装を披露する特別な機䌚を蚈画しおいるかどうかは関係ありたせん。クチュヌルは、新しいシヌズンの前に垞にむンスピレヌションの倧郚分を占めおいたす。\n石、ずんがりコヌン、矜ずフリンゞ、アップリケずストラむプ、滑らかなたたは質感のある革で䜜られたクラッチ、プラスチックのトヌトバッグ、キャンバスの買い物客の圢の装食-私たちはあなたが本圓に䜕かを遞ぶこずができるようにすべおの最も関連性のあるモデルを集めたした\nクレア・デむンズのシンデレラドレス、アンバヌノァレッタのマリヌアントワネット、ダむアナ劃の初歩的なランゞェリヌスタむル-メットガラに関しおは垞に蚘憶に残るこれらの有名な有名人のパフォヌマンスがここにありたす\nゞャンヌダルク、クレオパトラ、フリヌダカヌロにむンスピレヌションを埗た繊现なブロヌチが特城\n起こりうるあらゆる郜垂灜害から私たちを守る軜量で実甚的なゞャケットが再びトレンドになっおいたす\nあなたのワヌドロヌブから暖かい季節の最も甚途の広いアむテムを手に入れる時が来たした\nこのトレンドに察するデザむナヌの愛情は飛躍的に高たっおいたす。今䞖玀末の自分のフォトアルバムを敎理しお(たたは有名人のアヌカむブを参照しお)、今シヌズンの流行の組み合わせを探す時が来たした。\n3月にアメリカ倧統領の劻が芋せた衣装の総費甚は2䞇ドル以䞊でした\n実甚䞻矩者はそれらを吊定したすが、トレンドセッタヌは最も非珟実的なトレンドでさえ意味を芋぀けるこずができたす。新しいシヌズンにマむクロバッグを着甚する方法ず、最もクヌルなバッグを芋぀ける堎所を説明したす。同時に、それらが必芁かどうかを確認したす\nどのスタヌが最も印象的で゚キセントリックなキャンプスタむルの衣装を遞んだのか、そしお誰がドレスコヌドを無芖するこずに決めたのかを瀺したす\n新しいシヌズンの最も興味深い画像は、すぐに私たちのデザむナヌの範囲で芋぀かりたす\n公爵倫人の衣装は珟圚、プロのスタむリスト、元ノォヌグ線集者、貎族のバヌゞニアチャドりィックヒヌリヌによっお䜜られおいたす。\n䌝説の黄金のヘビがどのようにしおゞュ゚リヌ垝囜の䞻芁なシンボルの1぀になったのか、そしお゚リザベス・テむラヌがそのような時蚈を圌女のスクリヌンヒロむンが着甚するこずを䞻匵した理由を説明したす\n最も魅力的なファッショニスタであるゞョヌゞ王子ずシャヌロット王女のワヌドロヌブを分析したす。これらは間もなく母芪のトレンドセッタヌず競争したす。\nか぀お人気のあったアクセサリヌは、普遍的な認識から倧芏暡な迫害ぞず移行し、新しい圹割で私たちに戻っおきおいたす。\n長い䌑止の埌、ケンブリッゞ公爵倫人は公共事業に戻りたす:今日、圌女の殿䞋はギルりェルパヌクで若いスカりトず通信したす\n適切なスヌツが「私は䜕も着おいない」ずいう病気の寛解に぀ながるこずが蚌明されおいたす。しかし、ワヌドロヌブ党䜓に合う味方をどのように遞択したすか?", "perplexity": 10.606269212516896}}
4
+ {"row_index": 38050, "sha1": "8909eafee3cdaf2a9cea20f11649fb790df0a4a4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0032", "kept_row_index": 8295, "reason": "exact_duplicate", "record": {"url": "http://tubaozcakmak.com/itamalate2403902.html", "content": "*NEW*Style of Life䜏たい手の感性が光る 職ず䜏の機胜を詰め蟌んだ\n“倉庫のような家”サりンドデザむナヌの<PERSON_AFFILIATION>さんず矎術装食家のナリさんが家を建おるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も倉化し続けおいる。\n- Style of Life建築デザむナヌの自邞 鎌倉の緑豊かな高台に建぀\n居心地の良い小さな平屋Atelier23.を䞻宰する建築デザむナヌの<PERSON_AFFILIATION>さんの7軒目の䜏たいは、鎌倉の自然豊かな小高い䞘の䞊に建぀平屋の家。リビングの倧きな窓を開けるず、広々ずした明るい庭が広がる。\n- Style of Life開攟的な぀くりの䞭で癒されお暮らす モノが倚くおも気にならず、\nオン/オフの切り替えもできる家可胜な限りオヌプンな぀くりにした宀内は「癒され぀くしおストレスのこずを忘れるくらい」だずいう野䞭さん。そのメむンのスペヌスずしおバスルヌムを考えたずいう。\n- Style of Lifeアメリカンスタむルのリノベ自然䜓で楜しく暮らす\n広い庭付きノィンテヌゞハりスアメリカ人が䜏んでいた倧きな叀い家に䞀目惚れし、東京から盞暡原に匕っ越した川原さん䞀家。アメリカンノィンテヌゞスタむルのリノベヌションを斜し、ゆったりずした日垞を満喫しおいる。\n- Renovation元印刷工堎をリノベヌション 吹き抜けを圩る“緑の階段”で\n光ず自然を取り蟌む建築家の間田さん倫劻が2床目の家づくりに遞んだのは、築33幎、地䞊3階、地䞋1階の元印刷工堎。リノベヌションにより、コンクリヌトの躯䜓を掻かした荒々しくもぬくもりのある家ぞず生たれ倉わった。\n- Style of Life108段の先に建぀家鎌倉の叀民家で\n手仕事を楜しむ鎌倉の森の䞭を抜ける䞍揃いの階段を108段昇るず、庭を囲むように4軒の叀民家が建぀䞀角が珟れる。山䞋りかさんはその䞭の1軒をセルフリノベヌションし、手仕事を楜しむ。\n- Architecture自然ず向き合うノォヌルト倩井の家 怍物や虫や動物たちず\n境界なく暮らす石神井公園内にある池に面しお建おられた鶎岡邞はノォヌルト倩井をそのたた倖郚にたで突き出させた倖芳で異圩を攟぀が、このノォヌルト採甚にはいく぀かの思いが蟌められおいる。\n- Style of Life屋根圢状ずレベル差を掻甚 家族がゆるやかに぀ながる\n屋根裏のような居䜏空間川厎垂の閑静な䜏宅街に建぀T邞。䞭倮に蚭けた吹き抜けやスキップフロアによる高䜎差などさたざたな工倫によっお、家族4人が快適に暮らす。\n- Architecture建築家倫劻が挑んだ斜面の狭小地 光ず圱、曲線がもたらす\n矎しく䞊質な䜏たい高䜎差4m以䞊の斜面の狭小地に自邞を建おた青柳創さんず綟倏さん。建築家倫劻の創意工倫により、建坪7.5坪ずは感じさせない広々ずした空間を実珟した。\n- Architecture倩井高5メヌトルの倧開口斜めに架かった倩井の棟朚。\nシンプルか぀倧胆なデザむンの家倩井に連なる垂朚が矎しい、䌞びやかな倧空間が魅力の犏田さん䞀家の䜏たい。シンプルだけど個性的な家に䜏みたいず考えおいた<PERSON_AFFILIATION>さんは、蚭蚈を駒田建築蚭蚈事務所に䟝頌。\n- Architecture旗竿地に立぀店舗䜵甚䜏宅 半地䞋に぀くったのは\n“景色”を芋枡せ、萜ち着く倧空間玄関を入っお正面に焌き菓子店を蚭けた村䞊邞。その先に進むず、高さ3.5m面積32m2ほどの、䜏宅ずは思えない気積の倧きな半地䞋空間が珟れる。\n- Style of Life透明氎圩画家のアトリ゚兌䜏居 アメリカ奜きの倫婊が目指す\n理想の空間透明氎圩画家の かずうくみさんは倫共々アメリカ奜き。そんなアメリカ奜き倫婊が2床に分けお、理想の家を実珟させた。\n- Style of Life心地よい居堎所が点圚䜓感できる広さを远求した\nスキップフロアの家デザむンナニット『トネリコ』の君塚賢さんが昚幎建おた自邞は、空間を立䜓的にずらえたスキップフロアの家。『トネリコ』が手掛けた家具やむンテリアが空間を盛り䞊げおいる。\n## 人生をフルに楜しみたい人たちぞ、新しいラむフスタむルマガゞン『100%LiFE』。『100%LiFE』は、マガゞンハりスが「スタむルのある家ず暮らし」をテヌマに情報発信するデᅵᅵᅵタルマガゞンです。クリ゚むティブな感性で暮らしず空間を楜しむ人たちの亀流の堎ずなるラむフスタむルメディアを目指しおいたす。メむンずなるコンテンツは、遊び心ずクリ゚むティビティあふれる生掻シヌンを倚様でハむクオリティな空間事䟋ずずもに玹介。たたレギュラヌコヌナヌでは、むンテリア、アヌト、デザむン、ファッションなど、クリ゚むティブ分野のトレンド情報を䌝えおいきたす。『100%LiFE』は、タブロむドPC、及びスマヌトフォンにも最適化し、モバむルでもストレスなく読める蚭蚈になっおいたす。たた、Newsstandアプリでのスマヌトフォン向け電子雑誌展開も予定しおいたす。『100%LiFE』は、ヘヌベルハりスを展開する旭化成ホヌムズの特別協力を受けお運営しおいたす。web magazine of Magazine House supported by <PERSON_NAME> 100 ひゃく パヌセント ラむフ 100%ラむフ", "perplexity": 14.471962430162886}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0105",
5
+ "rows_in": 45905,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45901,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:03.280137+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.0,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/common_crawl_3_filtered_0106.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8d0561eeb0369efa3395ce3c1d0dccec69fd20ae0b6aa0d8d3872654bd1fec89
3
+ size 109547114
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 31549, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "https://urikata.biz/S-Line6-Packs-de-microphones-714145/", "content": "どこでも通甚する最匷の営業マンになりたい方\n営業アりト゜ヌシングなどを垌望の䌁業の方\n営業マンや営業マネヌゞャヌ向けに営業に関する基瀎知識〜高レベルなものたで提䟛しおいたす。営業に関しおなにかしら悩みがある方はぜひご芧ください。\n#### 営業のプロセス別蚘事\nここでは、営業のプロセスごずに蚘事を分けおいたす。自分の苊手な分野や䌞ばしたい分野を遞択しおぜひお読みください!\n#### 営業の悩み系蚘事\nここでは、営業マンの倚くが抱える悩みに぀いお蚘茉しおいたす。営業マンの皆さんなら誰しも䞀床は悩んでいたor悩んでいる事でしょう。悩みを解決できる蚘事をピックアップしおいたすので、ぜひ悩んでいる営業マンの方はご䞀読ください!\n#### 経営者・管理者向け蚘事\nここでは、経営者や営業マンを管理するマネヌゞャヌや営業郚長向けのコンテンツをピックアップしおいたす。営業がうたくいかないず感じおいる経営者や管理者の方はぜひご䞀読ください!\n#### FANVESTのサヌビス\n匊瀟は「日本䞀のマヌケティングカンパニヌになる」ずいうビゞョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら匊瀟にお任せください!", "perplexity": 13.747904539161638}}
2
+ {"row_index": 41474, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/brand/F%C3%BChrungsschienen/986", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0106",
5
+ "rows_in": 45902,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45900,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:03.846645+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/common_crawl_3_filtered_0107.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:872446df7ccebac197b8c6c726530690a189644a3c31eaf603b57969b8828dbd
3
+ size 110460001
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 6810, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Schaltnetzteile-225467-RS-Schaltnetzteil-W-Netzteil-V.do", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
2
+ {"row_index": 45355, "sha1": "66b8487c17e638c5b7895af003fe209e6d3ffe6d", "kept_config": "common_crawl_2", "kept_shard": "common_crawl_2_filtered_0014", "kept_row_index": 39498, "reason": "exact_duplicate", "record": {"url": "http://krishnaeyeinstitute.org/electrothermometer423310.html", "content": "博報堂メディカル、補品の解説圹を3DCGキャラクタヌに--動画制䜜の課題を解決\n「IBM Quantum Network」にLG゚レクトロニᅵᅵᅵスが参加\nアップル「App Store」、開発者の环蚈収益は30兆円芏暡\n䜏友生呜、AI-OCR「Flax Scanner」導入--絊付金請求手続きのデゞタル化を掚進\n目指す未来を描き「いた」に倉えるこずに挑戊--NEC゜リュヌションむノベヌタ・杉山瀟長\nAIで成功を勝ち取る3぀のポむント--DataRobot ゞャパン カントリヌマネヌゞャヌ・<PERSON_AFFILIATION>氏\nリコヌ、改正電子垳簿保存法察応の「RICOH 蚌憑電子保存サヌビス」提䟛開始\n第䞀工業補薬、ベテラン怜査員の分析技術をAIで暙準化--速床6倍に\n新ドコモグルヌプずしお始動の幎に--NTTドコモ・井䌊瀟長\nツヌルの「䜿いにくさ」「散圚」がデヌタ分析の障壁に--アルテリックス調査\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\n「2022幎はデゞタル新革呜元幎に」--アバナヌド・安間代衚\n2022幎に向けたIT䌁業のトップメッセヌゞを玹介する。アバナヌドの<PERSON_AFFILIATION>代衚は、デゞタルの答えるべき新たな「問い」に答えを出しおいくずする。\n2022幎に向けたIT䌁業のトップメッセヌゞを玹介する。日本テラデヌタの<PERSON_AFFILIATION>瀟長は、「DXの成果を出す幎」を掲げる。\nさらなる䟡倀をデヌタから埗られる幎に--Tableau・䜐藀カントリヌマネヌゞャヌ\n2022幎に向けたIT䌁業のトップメッセヌゞを玹介する。Tableauの<PERSON_AFFILIATION>カントリヌマネヌゞャヌは、2022幎が「さらなる䟡倀をデヌタから埗られる幎」ず述べる。\nコニカミノルタが実践する「むノベヌション志向経営」、瀟内倖でDXを実珟する方法論\nZDNet Japanが開催した「ZDNet Japan Summit 2021」では、コニカミノルタ 垞務執行圹の<PERSON_AFFILIATION>氏が、同瀟の「むノベヌション志向経営」の実践䟋ずその成果を玹介した。\n今もっずも人気のあるプログラミング蚀語であるPythonは、今や倚くの開発プロゞェクトで第1の遞択肢になっおいる。\n2022幎に向けたIT䌁業のトップメッセヌゞや幎頭所感を玹介する。ノキア゜リュヌションズ&ネットワヌクス 代衚執行圹員瀟⻑の<PERSON_AFFILIATION>-<PERSON_AFFILIATION>氏は、䞀局クリヌンなデゞタル瀟䌚を目指し、日本の5Gずデゞタル化を支えおいくずいう。\nセキュリティ゜フト「ノヌトン360」に搭茉される暗号通貚のマむニング機胜「Norton Crypto」をめぐり、懞念の声が起っおいる。\n「iPhone」の「iOS」OSには、たくさんの機胜がある。芋぀けにくい機胜や蚭定も非垞に倚い。筆者が気に入っおいるiOSの5぀の小技を玹介する。\n専甚アプリでスキャンしお決枈--NTT東、札幌垂内に「スマヌトストア」開蚭\nNTT東日本 北海道事業郚は、決枈や仕入れにデゞタルを掻甚した店舗「スマヌトストア」を2021幎12月20日にNTT倧通14䞁目ビル(札幌垂)に開蚭した。同瀟の埓業員でなくおも、専甚アプリを䜿っおビル来蚪時に利甚できる。\n財務省皎関、怜査察象の囜際郵䟿物をAIで自動識別--NECが凊理システム構築ぞ\n### 䌁画特集\niPhoneデバむスも統合的に管理\n激しく倉化する業務環境ずリスクに合わせ\n深化するM365セキュリティ\n最新ストレヌゞで倉わるIT運甹\n仮想化テクノロゞヌずFlashArrayの組合せで\n運甚負荷軜枛ず高性胜化を実珟したDMM\nモダンなOSだからこそ可胜\nMS補品の歎史を振り返りながら\nビルトむンセキュリティの利点を理解\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\nクラりド導入が進たない本圓の課題\nITベンダヌだからこそ知っおいる\nクラりドに二の足を螏む䌁業のボトルネック\n今時プラむベヌトクラりドの䜜り方\n2020幎代のプラむベヌトクラりド環境を\nAzureずVMwareを䟋に玹介\nビゞネスずITの最前線\n官民をあげおDXを急ぐ䞭で、\nキヌマンが語る成功ぞのポむント\n倧事なのは”仕事の段取り”\n幅広い業務を任されおいるからこそできる\nひずり情シス流の業務改善術\n゚ッゞ垂堎の掻性化ぞ\n高たるIoTを䞭心ずした゚ッゞ分野ぞの期埅\nOSS掻甚が新しい時代のビゞネスを拓く\n本圓のデヌタ掻甚できおいたすか?\nデヌタドリブンがあたりたえず蚀われる今あらためお考えたいデヌタ掻甚のありかた\nリモヌトワヌクを成功させる方法\n必須ずなるセキュリティをどう匷化するか\n必芁な察策5぀を玹介\nオヌプン゜ヌス掻甚はあたᅵᅵたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\n仮想デスクトップサヌビスの最新事情\n耇数の遞択肢のあるMSのVDIサヌビス\nどう違うのかをわかりやすく解説\nあらゆるモノ・コトが倉化しおいる今\nデゞタルでビゞネスは生たれ倉わる\nオリゞナルコンテンツが満茉!\n意倖ず知らないNutanix HCI の情報を集玄\n読めばわかる!いたHCIが泚目される理由\nID管理の基瀎知識\n新しい働き方におけるITガバナンスの\n向䞊にむけお\n幎間5,000件の問い合わせに察応\n疑問を解消したいナヌザヌも答える情シスも\nみんな幞せになるヘルプデスクの最適解\n珟堎䞻導のデゞタル倉革\nビゞネス倉革のための“ITの民䞻化”\nそしお 倉わるIT郚門の圹割\nKubernetes掻甚の最適解ずは?\n今、泚目のコンテナを掻甚した柔軟なIT基盀\n運甚、管理の課題を解決しメリットを最倧化\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\n楜倩゚コシステムずのシナゞヌを創出\nスタゞアムや経枈圏を生かした実蚌実隓も\n楜倩モバむル流5G共創プログラム\nハむブリッドクラりド時代の救䞖䞻\n䌁業ITを玠早く進化させるためのAVS\nサヌビス開始から1幎で倧幅に機胜がアップ\nDNSを守り、DNSで守る\n高床・巧劙化し危険床を増すサむバヌリスク\nいた考えるべきモダンセキュリティのあり方\nサヌビスを止めない!\nサむバヌ゚ヌゞェントに聞く高可甚性の実珟\nそこにピュア・ストレヌゞが遞ばれた理由\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nビゞネスを次のステヌゞぞ!\n50幎の経隓を持぀アむネットが提䟛\nナヌザヌ䌁業の䜿いやすさを第䞀に考えた\nワンストップで䜿えるマネヌゞドクラりド\nRPA芋盎される”業務”ず”人”の関係\n人的リ゜ヌスを単玔䜜業から解攟!\n高付加䟡倀業務ぞの転換のために\n党䞖界22䞇以䞊の䌁業・組織で採甚\nDX時代の顧客䟡倀創出に倧きな圹割を担う\nCI/CD環境の珟実解を玐解く\n泚目急䞊昇䞭のDaaS最新情報\nAzure Virtual Desktop最新情報\n新OSのWin11はどう進化したか\nビゞネス䞊の圹割、開発の芁因ず", "perplexity": 18.715055272742}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0107",
5
+ "rows_in": 45949,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45947,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.003080+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/common_crawl_3_filtered_0108.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fea6829c6df4642123f81b7ec90daccbe0e020386b20dff6de78adce8ef6514e
3
+ size 109850535
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 480, "sha1": "688210fe9cb333b74e131baaa8d8214341176d27", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0078", "kept_row_index": 24434, "reason": "exact_duplicate", "record": {"url": "http://kicksgrade.com/dryopithecid939517.html", "content": "## お䌑み\nい぀も芋おいただきありがずうございたす。\n突然ですが、ブログ管理人の䜓調䞍良(心臓)により、圓面の間、お䌑みさせおいただくこずにしたした。\n今たで応揎しおいただき、心から感謝しおおりたす。\nありがずうございたした。\n- 自分のこず :\n氎泳に行かれたり、長い距離を歩かれたりしおたから、\n䜓調が悪いなんお、思いもしたせんでした。\n実は、私が少しブログを䌑んあっぎぃ豚の角煮ずありがずう劻さん、ブログお䌑みびっくりです。\nたずは、ゆっくり䌑んで䜓調敎えおくださいね。\n埅っおるので、たた絶察再開しおくださいね。\nそうか、心臓悪かったのですね。\n私よりKAYOKO豚の角煮ずありがずうNo titleえっ、劻さん、ずおも驚きたしたよ。\nだっお氎泳もされるし、たくさん歩かれる劻さんがお具合が悪いなんお。\n淋しいですが、しっかり䌑逊されおたた戻っおきおくださるのをみヌモフママ豚の角煮ずありがずうNo title劻さた!\n突然のお䌑み宣蚀驚きたした。\n劻さたブログのお䌑みは寂しいけれど、\nゆっくり逊生しお元気になっお、\nたた戻っお来お䞋さる日を埅っおいるから、\n本圓に本圓にpcommeparis豚の角煮ずありがずうえええ劻さん、心配心配((T_T))。。\nそんな「今たでありがずう」的な蚀葉は・・・(TÐŽT)。。\n埅っおいたすので、\nゆっくり、ゆっくり䌑んで䞋さい。。\nほんず、心身ずもに、逊すぷたんお豚の角煮ずありがずうお加枛いかがですか?\nお倧事になさっおくださいね。\nお返事䞍芁なので、気にしないでください。yunko豚の角煮ずありがずうNo title豚肉奜きなワタシ、角煮も食べたい~~~!\nたた倧雚ずかのせいで野菜の倀段䞊がっおるのね\nうちの方は海倖から来るのも倚いせいか結構安定しおるけど\n冬にテキサスで寒くSnugglebuttアヌモンドサヌモンNo titleみヌモフママさん\n>この間アヌモンドサヌモンを䜜ったずきに本圓に皮がきれいにアルミフォむルに぀いおくれたしたよ~。\nそれで埌片付けも楜チンだもんね!\nサヌモンが厩愛されおいる劻豚の角煮ずありがずうNo titleホントに...お野菜お高い。\nレタス買おうず思ったけど...キャベツにしたした。\nそう...🍆は豊䜜なのか...お安めですよね。\n悪くしちゃうずいけないので...食べる分だけ...\n䜜れそうな時mikaアヌモンドサヌモンNo title劻さんのコヌルスロヌのブログみおから\n私もこの䜜り方です。\nっおコヌルスロヌ䜜りたしたぁ~はあたりに\n簡単すぎちゃっお...ブログにアップしおたせんが(笑)\n秋鮭~矎味しmikaアヌモンドサヌモン我が家もお䞖話になっおおりたす。\nちなみに、倩板ごずドヌンず食卓に䞊がりたすけど。䜜るのも掗うのも私なのでね。\n芋た目で云々は、䞀昚日来やがれ。\nコヌルスロヌすき千恵アヌモンドサヌモンNo titleキャベツ冷蔵庫に入っおるから\nこのコヌルスロヌ䜜っおみよう!\nプヌに魚アレルギヌがないっおわかったんだけど\n本人はちょっず怖がっおお特にサヌモンを避けおる\n生なら平Snugglebuttやっぱりむタロヌ(むタリアンロヌストポヌク)No titlenoodleさん\n>なだらかな䞘が続く光景はむギリスらしいですよね。\n日本からの芳光客がいくようなずころではないかもしれないけれど...青い空になだらかな䞘、草を食む矊。\n愛されおいる劻アヌモンドサヌモンNo titleこの間アヌモンドサヌモンを䜜ったずきに本圓に皮がきれいにアルミフォむルに぀いおくれたしたよ~。\nでもサヌモンは厩れおボロボロになっおしたいたした。\nアヌモンドスラみヌモフママやっぱりむタロヌ(むタリアンロヌストポヌク)No titleこのむタロヌ、毎日食べおも飜きないんじゃないかっお思うくらい\nシンプルな矎味しさがたたらないのよね\n゜ヌスをゎハンにかけお食べるのも奜きだったわ~\nそしおキャベツSnugglebuttやっぱりむタロヌ(むタリアンロヌストポヌク)あはは🀣\n遂にむタロヌ䜜ろうかな!?っお\n思った時には聞かないで䜜っお❀\n状態になりたしたか(笑)\n劻さんが思わなかったら...\nずヌっず食べられなくなっちゃうから\n週䞀で曜mikaやっぱᅵᅵむタロヌ(むタリアンロヌストポヌク)No titleむタリアンロヌストポヌクは矎味しい!!\nホントに矎味しいもん!\nダンナ様の気持ちわかる〜!!笑\n面倒くさがりになりたくったけど䜜ろうかな〜\n季節的にもピッタリだしりぷママやっぱりむタロヌ(むタリアンロヌストポヌク)No titleご玹介、ありがずうございたす!\nなだらかな䞘が続く光景はむギリスらしいですよね。\nい぀も、このロヌストポヌクが矎味しそうなので\n倫に「違うロヌストのレシピでトラむnoodleほがオヌブンだけNo titlemikaちゃん\n>それに矎味しいフォカッチャだったのね!\nフォカッチャそのものはそんな難しいものではなく...その味の差はいい小麊粉䜿っおいるのかな?\n私のは普通だず思う愛されおいる劻ほがオヌブンだけNo titleフォカッチャいいねぇ。\n私、ゆる~く糖質制限で倜は出来るだけ炭氎化物食べないからパンも手䜜りしなくなっおしたった。\nあはは、北欧の・・・そうなのね。\nこちらにもオreeディナヌサラダず赀毛のアンNo title千恵さん\n>我が家は、5人。奜き嫌いが倚い人のみ。\nでも、私が食べたいものを䜜る。\nうん!䜜る人が食べたいものを䜜る。\nそれが正解だず思いたす。\nだっお䜜っおるんだも愛されおいる劻ほがオヌブンだけNo titleわぁ~久々劻さんのフォカッチャだ\nフォカッチャっお倧奜きだけど自分で䜜った事ないな(笑)\n調理垫専門孊校通っおた時フレンチ・むタリアンの実習の時\n助手の先生が時々フmikaディナヌサラダず赀毛のアンNo titleうちのダンナも䜕でもいいよっお蚀うけど\nリク゚ストしおくれた方がメニュヌ考えなくおいいの楜なのにな\nでも手を抜いおも文句を蚀わないのでラッキヌだけど\n赀毛のアンはSnugglebuttディナヌサラダず赀毛のアン赀毛のアン、皆さん曞かれおいるけど\nわたしも倧奜きでした。\nもっぱら、図曞通でシリヌズを借りおきお\n読んでいお、どごたで読み進めたか芚えおいないんですよ。\nピンクみyunkoディナヌサラダず赀毛のアンNo titleうちにもいたす。\n『ご飯ですよ〜』の䞀声で歓喜しおくれる\nヒルトン(笑)。\n毎食同じメニュヌなのにね。\n毎日ご飯をちゃんず䜜る劻さたはえらいな。\n赀毛のアン倧奜pcommeparisディナヌサラダず赀毛のアンNo title倕ご飯にこう蚀うサラダを食べるの倧奜きなんだ。\n倖食しおもサラダ、っお事もあるし。\nこのアンずいう名の少女、私も芋たよ。\nNHKでやっおたから録画しお。\nこの女の子、reeディナヌサラダず赀毛のアンNo titleこういうサラダはお酒のお぀たみずしおも楜しめおいいよね〜\nテむスティドレッシングのむタリアン、\n私も奜きです。\n深倜 赀毛のアン\n芋た芋た〜!!笑\n䜕時間も!!\n私りぷママディナヌサラダず赀毛のアンNo title今ただきゅうりがずおもお高いんですよ。\n実家でも今幎はもらわなかったらふるわなかったんだずおもいたす。\nそれなのにご䞻人様の菜園は玠晎らしい!\n家でずれたら新鮮だみヌモフママディナヌサラダず赀毛のアンNo titleもぉ劻さんったらぁ~(笑)\n䜜らなくおは...ダメダメ~(笑)\n「䜜るものはなんでも本圓に矎味しいから」\nなんでも...本圓にがポむントですね\n自分の玠盎な気持ちを口に出しおちゃmikaそしお垰宅No titleくろねこさん\nコメントありがずうございたす!\n私のブログなんお...ず思ったりもしたしたが。\n勇気付けられるコメント、本圓に嬉しいです!!!\n次の旅行はコロナの心配な愛されおいる劻", "perplexity": 30.612072033363944}}
2
+ {"row_index": 5406, "sha1": "2790f96b8a8aaaafe0c5d155092724446b399dbc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0067", "kept_row_index": 32803, "reason": "exact_duplicate", "record": {"url": "http://kaatsu-b-fit.com/Bartramiaceae1160802.html", "content": "${returnDuration(178)}\n歎史に名を刻んだレゞェンドたち アレクサンドル・カレリン 霊長類最匷ずいわれた男オリンピックチャンネル\n${returnDuration(156)}\n“日枅食品カップ”小孊生陞䞊競技亀流倧䌚 2021郜道府県倧䌚ダむゞェスト動画日本陞䞊競技連盟\n${returnDuration(69)}\n“日枅食品カップ”第37回党囜小孊生陞䞊競技亀流倧䌚 応揎動画日本陞䞊競技連盟\n${returnDuration(27)}\n䜓操は「究極」のスポヌツテレビ朝日\n${item.name}\n${item.array[0].text}\n森田前知事、ラゞオ収録に森元銖盞招き察談 五茪・パラ話題に産経新聞\nパ・リヌグ新人王は倧本呜・宮ᅵᅵᅵ倧匥だが...「䌊藀倧海の掻躍次第で倧逆転も」の声が週刊ベヌスボヌルONLINE\n“モテ男”小柀埁悊の結婚、NHK桑子アナが小柀家に気に入られた理由 関係者が明かすノリの良さずマメな性栌デむリヌ新朮\nブロりバヌグ「61」で独走態勢に ツアヌ2勝目に王手my caddie\nズベレフ「光栄」 4倧䌚連続でレヌバヌ杯出堎ぞ<男子テニス>tennis365.net\n䞭囜の若者には狂信的な囜家䞻矩者がそんなに倚いのか【江䞊剛コラム】時事通信\n束山英暹は32䜍埌退 ツアヌ未勝利の2人が銖䜍、ミケル゜ンは4å·®9䜍my caddie\n東京五茪男子マラ゜ン6䜍の倧迫傑さんが小䞭孊生指導 犏島県いわき垂でオンラむンむベント 盞沢晃遞手がゲスト出挔犏島民報\n䞭囜が本気で倒しに来た 卓球女子・銬堎矎銙監督に聞く時事通信\nパラ開䌚匏、制䜜は「運呜」だった 挔出のりォヌリヌ朚䞋さんむンタビュヌ47NEWS\n奥原垌望、五茪での「答え合わせ」を回顧 倉化の5幎、敗戊の芁因、新方皋匏の暡玢平野貎也\nスポヌツナビアプリ限定\nコロナ犍での東京パラリンピックが閉幕 ボランティアも感染察策に尜力スポヌツナビ\n車いすバスケ“うれし悔しい”銀メダル 土台の䞊にあった芚醒、3幎埌は頂点ぞスポヌツナビ\nバド杉野明子、倧ケガ乗り越え぀かんだ銅 メダルが最高の回埩薬 最終日もう1個ぞスポヌツナビ\n起甚に応えた叀柀の“初スリヌポむント” 車いすバスケ、日本䞀䞞で頂点ぞあず1぀スポヌツナビ\nベテラン蚘者が芋た東京パラずこれから 閉幕埌は瞮小芚悟も「面癜さ感じお」スポヌツナビ\n“MVP”鳥海の裏で支えるベテラン2人 車いすバスケの躍進に、若手ぞの信頌感スポヌツナビ\n東京パラをブラサカ界の“フランスW杯”に メダルならずも、代え難い倧きな経隓スポヌツナビ\n車いすバスケ、守りの軞ずなる鳥海連志 “異次元のスタッツ”だけではない神髄スポヌツナビ\n加玍慎倪郎、初のパラ挑戊はほろ苊く......「䜕も考えおいない」に感じた新たな挑戊スポヌツナビ\nラケットを口に、サヌブは足で。異圩攟぀゚ゞプト卓球遞手に䌚堎が泚目パラフォト\n車いすラグビヌ初戊、日本は劇的な逆転勝利!その裏で......敗れたフランスの燃え䞊がる闘志パラフォト\n東京2020パラリンピックはここに泚目! 金メダル候補をPICK UPパラサポ\n【東京2020パラリンピック】12日間の競技芋どころたずめパラサポ\n7人が連携したGOALを~ブラサカ日本代衚<PERSON_AFFILIATION>遞手むンタビュヌパラフォト\n日本トップクラスの進孊校で実斜される特別授業ずは? 子どもの䞖界を広げる、倚皮倚様な出䌚いパラサポ\nグランドスラムの倢を叶えた車いすテニス・倧谷桃子、東京パラで䌚堎をどよめかせる!パラサポ\n倚皮倚様で芋どころ満茉! 東京2020パラリンピックの聖火リレヌパラサポ\n【東京2020】オリンピック・パラリンピック遞手村レポヌトパラサポ\n朚村敬䞀、「やっず、舞台に立぀準備ができた!」〜本番ぞ最埌、長野パラ・レガシヌの地で県倧䌚に出堎〜パラフォト\n晎れ\n熱䞭症指数譊戒\n明日9/20 (月)\n晎時々曇", "perplexity": 32.815172433964676}}
3
+ {"row_index": 30384, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Steriliser-by-UVC-Light-Products-Purificateurs-dair-359198/", "content": "どこでも通甚する最匷の営業マンになりたい方\n営業アりト゜ヌシングなどを垌望の䌁業の方\n営業マンや営業マネヌゞャヌ向けに営業に関する基瀎知識〜高レベルなものたで提䟛しおいたす。営業に関しおなにかしら悩みがある方はぜひご芧ください。\n#### 営業のプロセス別蚘事\nここでは、営業のプロセスごずに蚘事を分けおいたす。自分の苊手な分野や䌞ばしたい分野を遞択しおぜひお読みください!\n#### 営業の悩み系蚘事\nここでは、営業マンの倚くが抱える悩みに぀いお蚘茉しおいたす。営業マンの皆さんなら誰しも䞀床は悩んでいたor悩んでいる事でしょう。悩みを解決できる蚘事をピックアップしおいたすので、ぜひ悩んでいる営業マンの方はご䞀読ください!\n#### 経営者・管理者向け蚘事\nここでは、経営者や営業マンを管理するマネヌゞャヌや営業郚長向けのコンテンツをピックアップしおいたす。営業がうたくいかないず感じおいる経営者や管理者の方はぜひご䞀読ください!\n#### FANVESTのサヌビス\n匊瀟は「日本䞀のマヌケティングカンパニヌになる」ずいうビゞョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら匊瀟にお任せください!", "perplexity": 13.747904539161638}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0108",
5
+ "rows_in": 45830,
6
+ "rows_dropped": 3,
7
+ "rows_out": 45827,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:03.831975+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 3.0,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/common_crawl_3_filtered_0109.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1d9193060b411f4dc30b12dcc99917ba98a3d4b8d6b95bf4ae95a30d50f72629
3
+ size 110615783
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 3678, "sha1": "644cfc490ba89b972cdbb35480ecc8ea691b1233", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0023", "kept_row_index": 41752, "reason": "exact_duplicate", "record": {"url": "http://reflectiveteens.com/Oa/acube/xmU13519rUmcx6v4283U.help", "content": "今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 埌玉県のポツンず䞀軒家は、 家たでの道路はしっかりしおいお、 広く開拓した敷・・・\n今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 岩手県のポツンず䞀軒家を聞き蟌みするず 䜕でも知っおいるずいうヒラツカさんを・・・\n今回は10月21日攟送の 今、話題の堎所ず䞭継を結ぶ マツコ䌚議 eスポヌツカフェ を振り返りたす。 eスポヌツずは、パ゜コン・スマホ・ゲヌム機 などの察戊型ゲヌムで争う新競技で、 ディレクタヌ<PERSON_AFFILIATION>さんによ・・・\n今回は、チコちゃんに叱られる! 運動䌚をやりようになったのは? チコドリルなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 運動䌚をやるようになったのはなぜ? そ・・・\n今回は、チコちゃんに叱られる! 䜕で女性は電話に出るず 声が高くなる? 亀の長生きなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 女性が電話に出るず声が 高くなるのは、ちっち・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 誰がどんな調べ方をしたのか わからないのにランキング圢匏で 発衚されるず぀い気・・・\n今回は10月17日攟送の ホンマでっか!?TV 実はこうなり぀぀ある! 倉化するニッポンランキング を振り返っおみたす。 時代の倉化ずずもに 倉わり぀぀あるニッポン。 実は今、こうなり぀぀ある・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 䞖界でもっずも䜏みやすい 郜垂ランキング2018 ・・・\n今回は10月15日攟送の、 長嶋䞀茂ず怒れる女たち を振り返っおいきたいず 思いたすので宜しくお願い臎したす。 䞖の女性たちが 怒っおいる事を調査し、 女性・男性ずもに無駄なトラブルを 避けられるようにする・・・\n今回は10月14日攟送の ポツンず䞀軒家 を振り返っおみたす。 静岡県にあるポツンず䞀軒家を 捜しおいるず、ゞョギング䞭だった 地元の事情通 コりゟりさんず出䌚う。 ポツンず䞀軒家に぀いお、知・・・", "perplexity": 11.404461583489942}}
2
+ {"row_index": 8774, "sha1": "403ae929979e785b510495622c47a447849adbef", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0065", "kept_row_index": 21609, "reason": "exact_duplicate", "record": {"url": "http://bizima.jp/mistonusk4040625.html", "content": "### ものづくり工䜜宀 再開のお知らせ\n平玠より、はんだ付けができるワヌキングスペヌス「ものづくり工䜜宀」\n1.ご利甚者様のマスクの着甚\n2.ご入堎時の手指のアルコヌル消毒\n3.䜓調のすぐれない方のご利甚の制限\n(発熱等の方はお断りする堎合がございたす。)\nご䞍䟿をおかけしたすが、よろしくお願いいたしたす。\nをご利甚いただきありがずうございたす。\n新型コロナりむルスの感染拡倧防止に備え、長らく䌑業ずしおおりたした\nものづくり工䜜宀を10/1(金)より再開いたしたす!\n営業時間は、以前ず倉わらず 11:00~18:30になりたす。\n受付はデゞットカりンタヌスタッフたでお声掛けください。\nたた、ものづくり工䜜宀の再開に際しおは\n感染症察策ずしお䞋蚘の制限を蚭けさせおいただきたす。\n### スマホの音声を受けれるBluetoothレシヌバヌ基板が入荷したした!\nスマホの音声を受けれるBluetoothレシヌバヌ基板が入荷したした。\nCSR8630が採甚されおおり、察応Bluetoothプロファむルは「A2DP」になりたす。\n察応コヌデックは、AAC、MP3ずなっおおりたす。\n基板サむズは、30x30mmで組み蟌みに䟿利です。\n電源はDC3.5V~5.5Vになりたす。\n自䜜Bluetoothスピヌカヌを䜜っおみるのはいかがでしょうか。\n### 人気の「DC-ARROW」に新しい基板が登堎!\nラズパむオヌディオの電源ずしお人気の「DC-ARROW」に新しい基板が登堎したした。\n今回の基板ᅵᅵᅵ「DC-ARROW」の回路が2回路分搭茉されおいたす。\n曎にタカチのケヌス「HEN110520B」に適合するパネル基板が付いおきたす。\nUSB端子の角穎をあける必芁もなくなりデザむン的にもかっこよく仕䞊がりたす。\nラズパむずオヌディオHATを別々に䟛絊でき、音質向䞊も期埅できたす。\n### たかじんさん最新基板「 North Fox Digi 」が入荷したした!\nたかじんさんの高性胜ラズパむD/Dコンバヌタヌ基板「 North Fox Digi 」が入荷したした!\nデゞタル出力が HDMI-I2S / COAXIAL / TOS-LINKの3系統搭茉しおいたす。\nマスタヌクロックは、通垞の2倍でICの最倧クロックになる44.1kHzç³»(45.1584MHz)ず48kHzç³»(49.1520MHz)の䜎䜍盞ノむズ氎晶発振噚を搭茉しおいたす。DACが察応しおいれば、より倚くのオヌバヌサンプリングができ音質に有利な仕様ずなっおいたす。最倧192kHz/24bit ハむレゟ出力に察応しおいたす。\n個人的にはデゞタル出力で最も音質的に有利ず蚀われおいるHDMI-I2S出力が気になるずころです。\nこのペヌゞの䞊ぞ▲", "perplexity": 17.499505067802662}}
3
+ {"row_index": 35602, "sha1": "3892df29f690114c0543b4dd73a4387a4bc47212", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0030", "kept_row_index": 29190, "reason": "exact_duplicate", "record": {"url": "https://guitar-lesson-online.net/keraunographic603732.html", "content": "## バクテリアの新玠材\nMITの研究所でハむブリッド玠材、039を䜿甚したした。 バクテリア少し039; 金属。 医孊だけでなく、バむオ燃料の生産にも䜿甚できたす。\n### 24時間の人気\n## キラり゚アずハワむの他の火山:500䞇幎の歎史\nハワむの火山は、䜕癟䞇幎もの間、深郚からマグマを地衚にもたらしおきた地球䞊のホットスポットで生たれたした。 惑星の。\n## ハンスクリスチャングラムずは\n埮生物孊者のハンス・クリスチャン・グラムは珟圚166歳です。 そしお、私たちは皆、圌ず圌の長老に぀いお話したす。 実際にà デンマヌクの科孊者&墓; 1938幎に亡くなりたしたが、 ただ䜿甚䞭の现菌、グラム陜性およびグラム陰性现菌の識別技術でただ知られおいたす。 ではなく、刻みたす。 小さなこず。\n## ヘルペスずアルツハむマヌ:絆の仮説が匷化されたす\nこのテヌマに関する研究の新しい改蚂版は、piずugraveの間に盞関関係がある可胜性を瀺唆しおいたす。 認知症およびりむルス感染の䞀般的な圢態。 もしそれが本圓なら、治療、そしお䜕よりも病気の予防に新しい道が開かれるでしょう。\n## モルタ・マルゲリヌタ・ハック\nトスカヌナの科孊者は、むタリアで倩文台を運営した最初の女性でした\n## 月のすべおの人\n月の土を歩いた12人のうち4人が私たちを去った。 他の䞭で最幎少は77歳です。•ニヌル・アヌムストロングは地面に觊れた最初の男です...", "perplexity": 17.053778859186693}}
4
+ {"row_index": 36120, "sha1": "8af0234a74cbf734357129ecebc36aaa58921cf7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0045", "kept_row_index": 17030, "reason": "exact_duplicate", "record": {"url": "http://akyrise.sakura.ne.jp/facetiae476197.html", "content": "### 蓌科ぞ\nコロナが収たっおきたしたので、先月末、久々に蓌科に行っおきたした。ここは子䟛達が小さい頃に䜕床も来おいたすが、個人的にお気に入りの堎所です。初日はたずロヌプりェむで北アルプスに登りたす。ロヌプりェむ乗り堎がここです。\n駐車堎はガラガラです。呚りは少し黄葉がむマむチの状態でしたが、楜しめたす(写真は色味を出す為、チョット画像凊理しすぎですが・・・)。\nロヌプりェむの楜しみは䞊䞋線のすれ違いです。察向車の赀色も䞭々感じが良いですね。\n呚りを芋るず、蓌科山も綺麗に映えおいたした。\n山頂には暙高を瀺すキツツキさんがいたす。ここの暙高は2、200m以䞊です。ロヌプりェむの乗り堎は1,700mですが、急に2,000mたで来るず、人によっおは呌吞が苊しくなる方もいるようで、家人も呚蟺を歩くず少し苊しいず蚀っおたした。\n前の日に雪が降ったずの事で、山頂の坪庭からみるず、こんな颚に山頂駅呚蟺には䞀面に雪がありたす。\n山頂駅に展望台がありたすが、この日は空に雲がかかり、あたり呚囲を芋るこずができたせんでした。写真は望遠で撮圱した蓌科湖です。\nロヌプりェむを降りお実際にここに行きしたが、山頂では芋えなかった玅葉がずおも映えおいる堎所がありたした。\nこんな颚景を芋れる秋ᅵᅵᅵ堪らず良いですね・・。この日は運転で疲れたしたので、そのたたホテルぞ盎行です(続く)。", "perplexity": 17.13722620559751}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0109",
5
+ "rows_in": 45914,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45910,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.882865+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.7,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/common_crawl_3_filtered_0110.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:61384966b8ed1bb3d36011449fee5b11ad7ac347df57693b38d6ff9bc1a08429
3
+ size 110310415
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 8707, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://shokubutsu-zukan.net/moonfish199079.html", "content": "## 勉匷に集䞭する方法(パヌトI)\n研究方法:集䞭する方法。 私たちの孊生が勉匷しようずするたびに盎面する問題の䞀぀は、適切な集䞭力を芋぀けるこずです。 これは、Studentville.itのアドバむスを䜿甚しお行う方法です。\n## ゚ミリア・クラヌク:䌝蚘、䜓重、入れ墚\n゚ミリア・クラヌクは、ドラゎンの母であるデナヌリス・タヌガリアヌンの母、カレヌゞ女王の通蚳です。 あなたは䌝蚘、䜓重ずその入れ墚を知っおいたす。\n### 24時間の人気\n## 入孊詊隓2019:限られた数の利甚可胜な堎所\n入孊詊隓2019、限られた数ずプログラムされたアクセス孊郚のために利甚可胜な堎所:すべおのミュアの通知ず衚瀺に。\n## どの孊郚を遞択したすか? 適性怜査\nどの孊郚を遞択したすか? あなたの性栌や興味に基づいお、オリ゚ンテヌションテストずあなたに最適な倧孊を芋぀けるためのヒント。\n## 䞀般的な神曲のテヌマ\nテヌマは神曲で挔じたした。 プロット、構造、最終コメントぞの蚀及を䌎う、神曲のダンテの旅のテヌマ。\n## 神曲のテヌマ:ダンテのむンフェルノ\n神曲のテヌマ:構造ず芁玄を参照しお、ダンテの地獄で挔じられたテヌマ。", "perplexity": 22.826046406169112}}
2
+ {"row_index": 27168, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "https://barrasana.com/jejunostomy538777.html", "content": "○NewサむトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサむトURLはコチラ○\nWEB Shop開蚭の他、\n新入荷情報やむベント情報なども今埌はNewサむトをご芧ください。\nマむレヌゞカヌドをお持ちの方は、\nご登録枈のメヌルアドレスにおログむンしおください。\n<<各店舗のWEB Shopも随時オヌプンを予定しおおりたす>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたしたす。\n○同時に明日、WEB Shop OPENのBOLIGのNewサむトURL○\nブログなども新しいサむトで今埌は発信しおたいりたすので、 そちらをご芧ください。\nなかなかお店に足を運べないずいう方にも、\nWEB Shopで少しでもお店の雰囲気を味わっお楜しんで頂けるよう、\n随時商品を远加しおたいりたすので今埌ずもよろしくお願いいたしたす。\n○●明日からOPENのWEB Shopをご利甚の際に●○\nマむレヌゞカヌドをお持ちの方は、ご登録枈のメヌルアドレスにおログむンしおください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう颚に䜿っおいたんだろう、ずか。\nそんな事に想いを銳せお、「さぁ、私だったらどんな颚に䜿おう」\nそれが楜しい時間♪\nノィンテヌゞの魅力ですね。\nボりルが3぀入荷したした。\n割ず倧きめ。\nちょっず黄ばみが激しかったりしお。。。\nお郚屋の䞭でどう䜿いたしょう!?", "perplexity": 25.906448557307918}}
3
+ {"row_index": 28067, "sha1": "fdbafa6ff034c47473a86931ae66a07093c78635", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0054", "kept_row_index": 38002, "reason": "exact_duplicate", "record": {"url": "http://capecoralcycling.com/cutaneal850207.html", "content": "プロの翻蚳者集団だから実珟できる\n安定した高い品質\nKSM News & Researchは、高い専門性を持ち各分野に粟通した翻蚳者・通蚳者による\n高品質のサヌビスを提䟛したす。フランスおよび欧州に関連した\nビゞネス掻動を行う䌁業の皆様を支揎いたしたす。\n蚀語の壁を超えおビゞネスをサポヌト\nKSM News and Researchは、欧州でビゞネスをする䞊で䞍可欠な情報をたずめたニュヌスレタヌの配信を䞭心に、翻蚳、通蚳、調査など、お客様のビゞネスに圹立぀サヌビスを提䟛しおいたす。\nニュヌスレタヌ/怜玢サヌビス\nフランスおよび欧州でのビゞネスに欠かせない政治・経枈・産業・瀟䌚関連の最新ニュヌスをコンパクトにたずめ、メヌルにおお客様のお手元にお届けしたす。ニュヌスレタヌを利甚するこずで、情報収集にかかる時間や劎力を抑えるこずができたす。たた、環境・゚ネルギヌやアフリカ・マグレブに特化した専門ニュヌスレタヌもありたす。ご関心のある蚘事をサむト䞊で怜玢・閲芧するこずも可胜です。\nニュヌスレタヌをご賌読䞭のお客様は、ログむンしおサむト内の蚘事を怜玢・閲芧するこずが可胜です。\nフランス語翻蚳・英語翻蚳\nペヌロッパの政治・経枈・産業など各郚門の専任担圓者が、専門的なバックグラりンド・最新の甚語知識をもっお高品質な翻蚳をご提䟛したす。 日々のニュヌスレタヌ執筆を通しお垞に翻蚳の品質向䞊に努めおいたす。\nフランス語通蚳・英語通蚳\n䌚議、各皮シンポゞりムやセミナヌ、ビゞネス亀枉、産業芖察における通蚳を行いたす。オンラむン䌚議やりェブ䞊でのセミナヌや研修にも察応可胜ですのでお問い合わせください。\n調査・クリッピング\n制床調査、垂堎調査、経枈・政治動向調査、技術調査、アンケヌト調査など、お客様のご関心・ご芁望に沿っお、様々な角床・アプロヌチからの情報提䟛および報告曞の䜜成を行いたす。\nニュヌスセレクション From our Newsletters\nフランスおよび欧州の政治、経枈、䌁業、ビゞネス、瀟䌚、文化に関する必須情報をコンパクトにたずめたニュヌスレタヌから、毎日の厳遞ニュヌスをご玹介。\nフランスず欧州をもっずよく知りたい皆様のために、日頃の情報収集・調査で培ったノりハりの生きた読み物のペヌゞもご甚意しおおりたす。\nKSM News and Researchの匷み\nKSM News and Researchは、フランスのパリに拠点をおく\n歎史ず実瞟のある翻蚳・通蚳䌚瀟です。\nフランスおよび欧州でビゞネスをする䞊で必須の最新情報を\nニュヌスレタヌずしおコンパクトに線集し配信するこずで日々蓄積された\n専門的で時事的な知識・人材・情報のデヌタベヌスが私たちの匷みです。\n## 無料お芋積り・お問い合わせはこちら\n新芏のお問い合わせ、サヌビスに぀いおのご質問など、お客様からのご盞談を受け付けおおりたす。\nたた、翻蚳・通蚳のお芋積りを無料にお承っおいたすので、初めおの方もお気軜にお問い合わせください。", "perplexity": 10.608361982022261}}
4
+ {"row_index": 28068, "sha1": "541cc401dbca71b6b473dbc282a3110aaf394906", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0021", "kept_row_index": 21961, "reason": "exact_duplicate", "record": {"url": "http://itousorobansougougakuen.com/isodiazo349790.html", "content": "最高玚モデルのスコヌト、莅沢に生地を重ねた䞊品な仕䞊がり\nPleateTeeず組み合わせ♪\n数あるスコヌトの䞭から厳遞された人気No1のスコヌト\nブルヌが矎しいTieBackTankずの組み合わせ\nチヌタ柄もブルヌでPOPで爜やかな印象に!\n半袖の人気ランキング\n総合ランキング1䜍の半袖\n侊例Coralで合わせおみたした♪♪\n倧人気のCrossoverTeeのNEW新色Coralです。\n総合ランキング2䜍の半袖\nTashiSkorの柄ず合わせおみたした♪♪\n倧人気のCrossoverTeeのNEW新色Turquoiseです。\nショヌトパンツの人気ランキング\n総合ランキング1䜍のショヌトパンツ\n癜のIntensity Teeず合わせおみたした♪♪\n人気のショヌトパンツに新䜜登堎♪♪NEW新色Navyです。\n総合ランキング2䜍のショヌトパンツ\nSkyBlueのFluiedTeeず合わせおみたした♪♪\n人気のショヌトパンツに新䜜登堎♪♪NEW新色Whiteです。\nDrillSkortず組み合わせ♪\n溢れだす闘志♪詊合に挑む!\n## 最新情報\n- 8月11日~8月18日は倏季䌑業のため期間䞭にご泚文頂いたりェアは19日以降順次発送させお頂きたす。\n- 倏を楜しもう♪バむザヌプレれントキャンペヌンは7月31日たで♪\n- GYOSHOW詊着䌚スケゞュヌル曎新臎したした。\n- 7月21日~8月31日たでの期間GYOSHOWのメンテナンスのため、期間䞭の詊着販売䌚はございたせん。", "perplexity": 26.707833176973896}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0110",
5
+ "rows_in": 46139,
6
+ "rows_dropped": 4,
7
+ "rows_out": 46135,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.015680+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.1,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/common_crawl_3_filtered_0112.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fcff4f330420a14ae0c68ad2e0d6289cd60c239577716f90d0f221413c73c1a6
3
+ size 109997927
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 21039, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://koz-park.com/guaiaconic167627.html", "content": "おいしくおおもしろい食文化! “発酵”の魅力を䌝える発酵ポヌタルサむト\n東京から䞖界ぞ。䞖界から東京ぞ。ファッションの楜しさを毎日お届け!\n文化は぀ながる。New Culture Context\n創意ある暮らしのための知恵をお届けしたす。\nクりネル読者のWEBサむト『クりネル・サロン』が始たりたした!\n猫の家政婊・猫村ねこの倧人気挫画! 最初の1コマから読めたす。\n『edit Oita』倧分を楜しむWebマガゞン\n自然ず぀ながる、私らしい時間が生たれる 庭づくりのための゚クシオヌルマガゞン\nスタむルのある家ず暮らし\nよりよい肌、よりよい毎日、そしお、笑顔。\nanan女子に響くナニヌクなオリゞナルコンテンツが満茉!本誌蚘事も配信䞭。\n毎日をアクティブにする情報満茉!\n子育おをもっず楜しく!働くママ&パパのためのお圹立ち蚘事を毎日配信䞭☆\n犏祉をたずねるクリ゚むティブマガゞン\n東京の最旬情報のほか、誌面掲茉店の怜玢やオリゞナル蚘事などを毎日曎新。\n心地よい暮らしのストヌリヌ\n毎日配信䞭! ニッポンのロヌカルは楜しい! カッコいい! 進化しおる!\nベタヌラむフの玠、毎日配信!\n矎しい暮らしをデザむンする Life Design Magazine", "perplexity": 22.04089571255041}}
2
+ {"row_index": 27644, "sha1": "20c74ac4876aa80ae4c3c6c00825e6c56a456299", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0043", "kept_row_index": 37929, "reason": "exact_duplicate", "record": {"url": "http://ysroad-ueno.com/Mididae1011729.html", "content": "## もっず神戞電子を\n知りたい方ぞ\n神戞電子をもっず知っおいただくための資料の配垃やオヌプンキャンパスを開催しおいたす。\n## 神戞電子からの\nニュヌス&トピックス\n孊校からのお知らせやオヌプンキャンパスなどのむベント情報をお知らせしたす。\n2021.10.1珟圚 本校の教育運営等掻動指針\nレベル2(掻動指針の詳现PDF)\n日本で最も歎史あるIT系専門孊校で、\n数倚くの卒業生が掻躍しおいたす。\n## 神戞電子で孊べる19孊科に぀いお未来ぞ生き抜く力\n「技術力」ず「創造力」。\n技術力ず創造力を倧切にした教育で、\n未来を生き抜く人に。\n-\n## 「アむディア」を\nカタチにできる「技術力」を\n技術力を育む専門教育ずさたざた人たちず協働し新たな䟡倀を生み出す共創教育を通じお、\n「技術力」ず「創造力」を兌ね備えた専門職業人を育成したす。\n## 新しい䟡倀ぞの創造力ず\n䌝えるコミュニケヌション\n珟堎経隓豊富な教員が専門知識ず技術を䌝授。\n「聞く・芋る・話す」の感性を逊うコミュニケヌション胜力を身に぀け、新しい䟡倀を芋出す創造力が、あなたの未来を切り拓く!\n## プロず同等の即戊力の環境で\n磚かれる技術力ず創造力\nスタゞオや蚭備等、圚孊䞭からプロず同等の「仕事」ができる環境を甚意。\n倚くの有名䌁業がセミナヌを開催し、プロずしおの意識䜜りや技術を䌝え、即戊力ずしお掻躍!\n## 卒業生の結束力\n繋がりず掻躍の珟圚\n繋がりを倧切にする神戞電子は卒業埌も同窓䌚やコミュニティヌで友の茪を広げおいる。\nそしお瀟䌚人ずしおの繋がりを䜜り、䌚瀟では即戊力ずしお倧掻躍!\n### 就職・資栌に匷い神戞電子\n卒業埌を芋据えた基瀎・専門・実務経隓の\n3段階教育により玄90%以䞊の正芏雇甚を実珟。\n就職・資栌に぀いお\n### 最匷の業界連携\n業界ずの繋がりが匷い神戞電子だから\n### 募集芁項・孊費・遞考方法\n長幎倚くの優秀な孊生を䞖の䞭ぞ送り出しおいたす。\n募集芁項や遞考方法など入孊に関する案内はこちら\n入孊案内に぀いお\n留孊生 向け 孊校案内 留孊生 向けの 神戞 電子 専 門 孊校の å­Šæ ¡ 案内です。", "perplexity": 25.00032545280468}}
3
+ {"row_index": 28704, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/russian-dating-site-india/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんでᅵᅵᅵしい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
4
+ {"row_index": 30785, "sha1": "a6a0ecd61ac8934c532a6c767dd82266d2b51b50", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0088", "kept_row_index": 9447, "reason": "exact_duplicate", "record": {"url": "http://www.threeangelsgifts.com/cryptoperthite1423748.html", "content": "#### 刊行物のご案内\n#### 刊行物\n新型コロナりむルス感染症(COVID-19)による緊急事態宣蚀を受けお,8月認定委員䌚を8月28日(土)ずさせおいただいおおりたしたが,新型コロナりむルス感染症(COVID-19)急拡倧により,委員䌚開催を\n「䞭止」ずするこずになりたした。\n次回10月認定委員䌚(10月2日)の審査予定ずなりたす。\nご迷惑をおかけしたすが,ご理解を賜りたすようお願い申し䞊げたす。\n参加・賛同孊協䌚数は,339孊協䌚ずなりたした。\n本孊䌚のメヌルサヌバヌの䞍具合により,以䞋の時間垯に孊䌚宛に送られたメヌルを受信するこずができたせんでした(宛先は,ドメむンが@psych.or.jp のメヌルアドレス)。\n<メヌルを受信できなかった期間>2021幎8月4日(æ°Ž)11時頃-14時頃\n぀きたしおは倧倉お手数をおかけしたすが,この時間垯にメヌルを送信された方は,再送くださいたすようお願い申し䞊げたす。\n第41回日本看護科孊孊䌚孊術集䌚においお,日本看護科孊孊䌚・日本心理孊䌚の共同䌁画シンポゞりムを開催したす。本シンポゞりムのシンポゞストを,孊䌚員の方の䞭から公募したす。\n詳现は,公募芁項をご芧ください。\n新型コロナりむルス感染症(COVID-19)による緊急事態宣蚀を受けお,2021幎8月7日(土)に予定しおおりたした認定委員䌚を\n8月28日(土)に延期するこずになりたした。\n2021幎7月2日にラむブ配信で開催した日本心理孊䌚YouTubeラむブ・話題の論文に぀いお著者ず語るシリヌズ第1回 吉田寿倫・村井最䞀郎(2021)「心理孊的研究における重回垰分析の適甚に関わる諞問題」心理孊研究92巻のアヌカむブ動画を公開したした。\n公開期間は,2021幎9月8日たでです。\n##### 日本心理孊䌚YouTubeラむブ・話題の論文に぀いお著者ず語るシリヌズ\n第1回 吉田寿倫・村井最䞀郎(2021)「心理孊的研究における重回垰分析の適甚に関わる諞問題」心理孊研究92å·»(2021幎7月2日)\nこのたび,新しいオンラむンむベントのシリヌズを開催するこずになりたした。参加費無料・䞀般公開で,どなたでもご参加いただくこずができたす。\n詳现や参加申蟌は,本むベントのPeatixりェブサむトをご芧ください。\n##### 【アヌカむブ公開・9月8日たで】日本心理孊䌚YouTubeラむブ・話題の論文に぀いお著者ず語るシリヌズ(第1回・2021幎7月2日ラむブ配信)\n発衚申蟌締切は,5月28日(金)17時です。\n##### 公開シンポゞりム「誰䞀人取り残さない」瀟䌚の実珟のために:心理孊者が考える「持続可胜な開発目暙(SDGs)」第1回「環境問題に぀いお考える」(オンデマンド)\n2021幎床の日本心理孊䌚公開シンポゞりムは,オンラむン(オンデマンドたたはラむブ配信)にお実斜いたしたす。 第1匟は,『ᅵᅵᅵ誰䞀人取り残さない」瀟䌚の実珟のために:心理孊者が考える「持続可胜な開発目暙(SDGs)」』(第1回「環境問題に぀いお考える」)です。\n動画はYouTubeで公開し,日本心理孊䌚ホヌムペヌゞからもご芧いただけたす。公開期間は,10月14日たでです。\n##### 日本心理孊䌚第85回倧䌚の日皋が決たりたした(2021幎9月1日(æ°Ž)―8日(æ°Ž),りェブ開催,䞻催校:明星倧孊)\n倧䌚参加・発衚申蟌の受け付けは,4月䞭旬の開始を予定しおおりたす。詳现は,倧䌚ホヌムペヌゞの公開埌にあらためおご案内したす。\n##### 日本心理孊䌚・日本看護科孊孊䌚共同䌁画シンポゞりム登壇者募集(応募締切2021幎8月17日)\n##### 日本心理孊䌚第85回倧䌚発衚申蟌締切の延長(6/4(金)17時)\n日本心理孊䌚第85回倧䌚の発衚申蟌締切を,1週間延長したした。\n延長埌の締切は,6月4日(金)17時です。再延長は行いたせん。発衚ご予定の方は,必ず期限内にお申し蟌みください。\n##### 日本心理孊䌚若手の䌚|倧䌚参加費支揎制床のご案内(締切6月12日)\n日本心理孊䌚第85回倧䌚で発衚を予定しおいる方を察象に,倧䌚参加費を支揎したす。応募締切は,6月12日(土)23時59分です。資栌や応募方法は,若手の䌚ホヌムペヌゞをご芧ください。\n##### 若手の䌚䌁画シンポゞりム事前アンケヌト(回答締切5/20)\n日本心理孊䌚若手の䌚による䌁画シンポ「これからの若手研究者の諞問題ず察凊法の共有・展望 (ä»®)」(第85回倧䌚時)に぀いお,事前アンケヌトにぜひご協力ください。\nアンケヌト察象は,倧孊院生もしくはその修了時点から10幎以内の方で,回答締切は5/20です。\n##### 研究䌚助成・灜害埩興助成・新型コロナりむルス関連助成の募集\n2021幎床の研究䌚助成,灜害埩興助成,新型コロナりむルス関連助成の募集を公瀺したした。\n各申蟌締切は,研究䌚助成=5月7日(金)正午,灜害埩興助成・新型コロナりむルス関連助成=5月31日(月)正午(いずれも必着)です。\n※2021幎床は囜際䌚議旅費補助の募集を䞭止いたしたす。\n##### 第16回日本心理孊䌚囜際賞募集に぀いお\n第16回日本心理孊䌚囜際賞(特別賞・功劎賞・奚励賞)の䌚員掚薊ず自薊による応募(奚励賞のみ)を受け付けおおりたす。締切は2021幎1月12日(火)午前9時30分 (必着)です。詳现はこちらをご芧ください。\n##### 人文瀟䌚科孊系孊協䌚男女共同参画連絡䌚(GEAHSS) WGメンバヌの募集\n人文瀟䌚科孊系孊協䌚男女共同参画連絡䌚(GEAHSS)は,調査WGならびにグッド・プラクティス・スキヌム䜜成WGのメンバヌを募集しおおりたす(締切2020幎末)\n### 日本心理孊䌚からの最新NEWS\n衚瀺されない堎合には、䞊蚘「日本心理孊䌚 @jpa_psych」をクリックいただくか、", "perplexity": 14.025919746212585}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0112",
5
+ "rows_in": 45951,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45947,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.500206+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.5,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/common_crawl_3_filtered_0113.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ac6891dd3fdd4eba91593bd0aaf3e4299d20877b96d85aae45f05c66493bffa0
3
+ size 110095117
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 24380, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://funsou.jp/alkaptonuric1426277.html", "content": "おいしくおおもしろい食文化! “発酵”の魅力を䌝える発酵ポヌタルサむト\n東京から䞖界ぞ。䞖界から東京ぞ。ファッションの楜しさを毎日お届け!\n文化は぀ながる。New Culture Context\n創意ある暮らしのための知恵をお届けしたす。\nクりネル読者のWEBサむト『クりネル・サロン』が始たりたした!\n猫の家政婊・猫村ねこの倧人気挫画! 最初の1コマから読めたす。\n『edit Oita』倧分を楜しむWebマガゞン\n自然ず぀ながる、私らしい時間が生たれる 庭づくりのための゚クシオヌルマガゞン\nスタむルのある家ず暮らし\nよりよい肌、よりよい毎日、そしお、笑顔。\nanan女子に響くナニヌクなオリゞナルコンテンツが満茉!本誌蚘事も配信䞭。\n毎日をアクティブにする情報満茉!\n子育おをもっず楜しく!働くママ&パパのためのお圹立ち蚘事を毎日配信䞭☆\n犏祉をたずねるクリ゚むティブマガゞン\n東京の最旬情報のほか、誌面掲茉店の怜玢やオリゞナル蚘事などを毎日曎新。\n心地よい暮らしのストヌリヌ\n毎日配信䞭! ニッポンのロヌカルは楜しい! カッコいい! 進化しおる!\nベタヌラむフの玠、毎日配信!\n矎しい暮らしをデザむンする Life Design Magazine", "perplexity": 22.04089571255041}}
2
+ {"row_index": 25642, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "https://soto-zen.net/index-2.html", "content": "*NEW*Style of Life䜏たい手の感性が光る 職ず䜏の機胜を詰め蟌んだ\n“倉庫のような家”サりンドデザむナヌの<PERSON_AFFILIATION>さんず矎術装食家のナリさんが家を建おるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も倉化し続けおいる。\n- Style of Life建築デザむナヌの自邞 鎌倉の緑豊かな高台に建぀\n居心地の良い小さな平屋Atelier23.を䞻宰する建築デザむナヌの<PERSON_AFFILIATION>さんの7軒目の䜏たいは、鎌倉の自然豊かな小高い䞘の䞊に建぀平屋の家。リビングの倧きな窓を開けるず、広々ずした明るい庭が広がる。\n- Style of Life開攟的な぀くりの䞭で癒されお暮らす モノが倚くおも気にならず、\nオン/オフの切り替えもできる家可胜な限りオヌプンな぀くりにした宀内は「癒され぀くしおストレスのこずを忘れるくらい」だずいう野䞭さん。そのメむンのスペヌスずしおバスルヌムを考えたずいう。\n- Style of Lifeアメリカンスタむルのリノベ自然䜓で楜しく暮らす\n広い庭付きノィンテヌゞハりスアメリカ人が䜏んでいた倧きな叀い家に䞀目惚れし、東京から盞暡原に匕っ越した川原さん䞀家。アメリカンノィンテヌゞスタむルのリノベヌションを斜し、ゆったりずした日垞を満喫しおいる。\n- Renovation元印刷工堎をリノベヌション 吹き抜けを圩る“緑の階段”で\n光ず自然を取り蟌む建築家の間田さん倫劻が2床目の家づくりに遞んだのは、築33幎、地䞊3階、地䞋1階の元印刷工堎。リノベヌションにより、コンクリヌトの躯䜓を掻かした荒々しくもぬくもりのある家ぞず生たれ倉わった。\n- Style of Life108段の先に建぀家鎌倉の叀民家で\n手仕事を楜しむ鎌倉の森の䞭を抜ける䞍揃いの階段を108段昇るず、庭を囲むように4軒の叀民家が建぀䞀角が珟れる。山䞋りかさんはその䞭の1軒をセルフリノベヌションし、手仕事を楜しむ。\n- Architecture自然ず向き合うノォヌルト倩井の家 怍物や虫や動物たちず\n境界なく暮らす石神井公園内にある池に面しお建おられた鶎岡邞はノォヌルト倩井をそのたた倖郚にたで突き出させた倖芳で異圩を攟぀が、このノォヌルト採甚にはいく぀かの思いが蟌められおいる。\n- Style of Life屋根圢状ずレベル差を掻甚 家族がゆるやかに぀ながる\n屋根裏のような居䜏空間川厎垂の閑静な䜏宅街に建぀T邞。䞭倮に蚭けた吹き抜けやスキップフロアによる高䜎差などさたざたな工倫によっお、家族4人が快適に暮らす。\n- Architecture建築家倫劻が挑んだ斜面の狭小地 光ず圱、曲線がもたらす\n矎しく䞊質な䜏たい高䜎差4m以䞊の斜面の狭小地に自邞を建おた青柳創さんず綟倏さん。建築家倫劻の創意工倫により、建坪7.5坪ずは感じさせない広々ずした空間を実珟した。\nシンプルか぀倧胆なデザむンの家倩井に連なる垂朚が矎しい、䌞びやかな倧空間が魅力の犏田さん䞀家の䜏たい。シンプルだけど個性的な家に䜏みたいず考えおいた<PERSON_AFFILIATION>さんは、蚭蚈を駒田建築蚭蚈事務所に䟝頌。\n- Architecture旗竿地に立぀店舗䜵甚䜏宅 半地䞋に぀くったのは\n“景色”を芋枡せ、萜ち着く倧空間玄関を入っお正面に焌き菓子店を蚭けた村䞊邞。その先に進むず、高さ3.5m面積32m2ほどの、䜏宅ずは思えない気積の倧きな半地䞋空間が珟れる。\n- Style of Life透明氎圩画家のアトリ゚兌䜏居 アメリカ奜きの倫婊が目指す\n理想の空間透明氎圩画家の かずうくみさんは倫共々アメリカ奜き。そんなアメリカ奜き倫婊が2床に分けお、理想の家を実珟させた。\n- Style of Life心地よい居堎所が点圚䜓感できる広さを远求した\nスキップフロアの家デザむンナニット『トネリコ』の君塚賢さんが昚幎建おた自邞は、空間を立䜓的にずらえたスキップフロアの家。『トネリコ』が手掛けた家具やむンテリアが空間を盛り䞊げおいる。\n## 人生をフルに楜しみたい人たちぞ、新しいラむフスタむルマガゞン『100%LiFE』。『100%LiFE』は、マガゞンハりスが「スタむルのある家ず暮らし」をテヌマに情報発信するデゞタルマガゞンです。クリ゚むティブな感性で暮らしず空間を楜しむ人たちの亀流の堎ずなるラむフスタむルメディアを目指しおいたす。メむンずなるコンテンツは、遊び心ずクリ゚むティビティあふれる生掻シヌンを倚様でハむクオリティな空間事䟋ずずもに玹介。たたレギュラヌコヌナヌでは、むンテリア、アヌト、デザむン、ファッションなど、クリ゚むティブ分野のトレンド情報を䌝えおいきたす。『100%LiFE』は、タブロむドPC、及びスマヌトフォンにも最適化し、モバむルでもストレスなく読める蚭蚈になっおいたす。たた、Newsstandアプリでのスマヌトフォン向け電子雑誌展開も予定しおいたす。『100%LiFE』は、ヘヌベルハりスを展開する旭化成ホヌムズの特別協力を受けお運営しおいたす。web magazine of Magazine House supported by <PERSON_NAME> 100 ひゃく パヌセント ラむフ 100%ラむフ", "perplexity": 14.335650491062793}}
3
+ {"row_index": 34523, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "http://softmintindia.com/cholane607768.html", "content": "「圌女は確信犯だ」のような、悪いこずなどを分かっおいおやる「確信犯」は英語で \"She know what she's doing.\" ず衚せたす。「䜕をやっおいるかちゃんず分かっおやっおいる」ずいう意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っおいた靎䞋のラベルに面癜いこずが曞かれおいたした。 そこには英語で「フリヌサむズ」的なこずが曞かれおいたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほずんどの人にピッタリです」ずいう意味で \"one-size-fits-○○\" ず曞いおあ [...]\n## 日垞生掻の英語\n## 話す英語\nレストランでただ食べかけのお皿を䞋げられそうになった時の「ただ食べおいたす」「食べ終わっおたせん」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい衚珟\n「眉毛」は英語で \"eyebrow(s)\" ず蚀いたす。読み方は「アむブロり」でも「アむブロヌ」でもなく「アむブラり」に近い発音です。濃い(倪い)眉は [...]\n## 曞く衚珟\nおもちゃ屋さんの『トむザらス』、その名前を知らない人はいないず思いたす。 アメリカの「トむザらス」は今幎、囜内の最埌の2店舗が閉鎖されたようですが、日本やその他の囜ではただ店舗がたくさんありたす。 そんな『トむザらス』ですが、ひらがなずカタカナが混ざった䞍思議な名前だず思いたせんか? [...]", "perplexity": 17.522652893009255}}
4
+ {"row_index": 43752, "sha1": "5289330c2b51da2cbff8654917b9997ffea4aa80", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0061", "kept_row_index": 4055, "reason": "exact_duplicate", "record": {"url": "https://fiit.jp/Pendants/bxmtz-110867/Wedding-Necklace-Lavender-Jade-Necklace-Bridal-Jewelry-Jade.action", "content": "OUR VISION \nフィットネスIT゜リュヌションのリヌディングカンパニヌ\nわたしたちは、フィットネスIT゜リュヌショᅵᅵのリヌディングカンパニヌずなるべく、 ご利甚ナヌザヌ様、クラむアント様から愛されるサヌビスを創り続けたす。新芏事業はもちろん、既存事業のアップデヌトも培底的に行い、 みなさたのフィットネスラむフの「未来」に改善提案を行い続けたす。\n今ここにない「未来」はFiiTが創る\n我々はフィットネス業界にむノベヌションを起こし、 䟡倀ず゚ネルギヌに満ち溢れたITサヌビスを創るプロフェッショナル集団です。 ※むノベヌションずは「未来ぞの改善を地道に繰り返すこず」ず匊瀟では定矩しおいたす。\n䞋蚘ポリシヌは必ず順守し、今はない新たな䟡倀あるサヌビスをご提䟛しおいきたす。・フィットネスずITの融合サヌビスのみ創る\n・垞に1䜍を取り続けるサヌビスを創る\n・䟡倀があるサヌビスのみ創る\n・゚ネルギヌがある者のみがサヌビスを創る\n・今ここにない未来のサヌビスを創る\n・スケヌルするサヌビスのみ創る\n・仲間に自慢できるサヌビスを創る\n・実行力のある組織でサヌビスを創る\n・感動を生むサヌビスを創る\nFiiTのこだわり\n「䟡倀にこだわる」\n䜕か倉化をする際、「これは本圓にナヌザヌ様にずっお䟡倀があるか?」 を垞に問い続け、意思決定を行いたす。\n「1䜍にこだわる」\nフィットネスIT業界のリヌディングカンパニヌずしお、 狙った業界のトップカンパニヌずなるたでアップデヌトを繰り返し、 ご提䟛サヌビスの䟡倀が垞に「1䜍」ずなるよう、胡坐をかかずにこだわり続けたす。\n「゚ネルギヌにこだわる」\n本圓に䟡倀あるサヌビスを創れる者は䜕かしらの”゚ネルギヌ”を持ち合わせおいる方が倚い。 我々は”゚ネルギヌ”のある方のみ採甚ずしおおり、 フィットネス業界に倧きなむンパクトを䞎える”事業家集団”であるこずにこだわりたす。", "perplexity": 14.37434379922959}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0113",
5
+ "rows_in": 45864,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45860,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.812640+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.6,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/common_crawl_3_filtered_0114.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dea44998eaab4ce7be4657bd3785bc61f5c4f1cebbbe4df90e3acfdde4fa383a
3
+ size 111730386
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 8263, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "https://getoboys.com/katuka1589177.html", "content": "おいしくおおもしろい食文化! “発酵”の魅力を䌝える発酵ポヌタルサむト\n東京から䞖界ぞ。䞖界から東京ぞ。ファッションの楜しさを毎日お届け!\n文化は぀ながる。New Culture Context\n創意ある暮らしのための知恵をお届けしたす。\nクりネル読者のWEBサむト『クりネル・サロン』が始たりたした!\n猫の家政婊・猫村ねこの倧人気挫画! 最初の1コマから読めたす。\n『edit Oita』倧分を楜しむWebマガゞン\n自然ず぀ながる、私らしい時間が生たれる 庭づくりのための゚クシオヌルマガゞン\nスタむルのある家ず暮らし\nよりよい肌、よりよい毎日、そしお、笑顔。\nanan女子に響くナニヌクなオリゞナルコンテンツが満茉!本誌蚘事も配信䞭。\n毎日をアクティブにする情報満茉!\n子育おをもっず楜しく!働くママ&パパのためのお圹立ち蚘事を毎日配信䞭☆\n犏祉をたずねるクリ゚むティブマガゞン\n東京の最旬情報のほか、誌面掲茉店の怜玢やオリゞナル蚘事などを毎日曎新。\n心地よい暮らしのストヌリヌ\n毎日配信䞭! ニッポンのロヌカルは楜しい! カッコいい! 進化しおる!\nベタヌラむフの玠、毎日配信!\n矎しい暮らしをデザむンする Life Design Magazine", "perplexity": 22.04089571255041}}
2
+ {"row_index": 10453, "sha1": "59c6ef863adbb77614b8009d21bba8bc65566157", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 9429, "reason": "exact_duplicate", "record": {"url": "https://ponce.magicwebstudios.com/miterflower180466.html", "content": "## 店長曰く、”ドラむバヌのむンパクトは第䞀象限で!”\n店長が、突然、\nなんだっけず思い調べおみるず、数孊でx、y共にプラスになる座暙䞊、右䞊の゚リアのこず。。。?\nよく聞いおみるず、そうでした。\nでなんで、第䞀象限かずいうず、こうだそうです。\n先ずは、䞋のグラフ芋おください。\nx軞が、ヘッド軌道でいわゆるむンサむド、アりトサむドかを瀺したす。\ny軞は、入射角でアッパヌブロヌかダりンブロヌをあらわしたす。\nで、店長が蚀いたいのは、ドラむバヌのむンパクトは、\n最初からスラむスで攻める方ずかには、完党に圓おはたらないかも知れたせんが、私たちがこれたで倚くのお客様をフィッティングした結果、たた、私たち自身が打っお確認した結果から、以䞋のグラフになりたした。\nグラフは、1目盛1床のアングルなので、\nここでむンパクトできれば、\n勿論、ヘッドスピヌドが速い方や身長が高いかたなどは原点(0,0)に近づいたむンパクトでも効率的に飛ばせたすし、ヘッドスピヌドがあたりない方、身長の䜎い方は逆のこずが蚀えたりしたす。\nで、肝心の店長は、どうなっおるの?\n赀色の点が、店長のむンパクトです。\nおヌい!あかんやん。倖れおるし(惜しいけど)\n本人曰く、むンパクトで䜓重が右に残りやすいのが原因ずか。\nスむング改造䞭やらしゃヌないっお開き盎っおいたす。。。笑\n皆さん、圓店では䞊の写真の様に、皆様のむンパクトを正確に枬定するこずが出来たすし、それに芋合ったシャフトをご提案するこずも出来たす。\n是非、蚺断を受けおみたせんか?\nお問い合わせは、スタッフたでお気軜に。。。\n”ドラむバヌのむンパクト”は、 第䞀象限やねっお、わけのわからないこずを蚀い出したした。 第䞀象限?\nむンサむド・アッパヌが効率よく飛ばせるっおこずを蚀っおいたす。\n”good”゚リアは、 むンサむド1~3床、アッパヌも1~3床を瀺したす。\n効率よく飛ばせるず私たちは考えたす。", "perplexity": 21.68119784043468}}
3
+ {"row_index": 18006, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=190890", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0114",
5
+ "rows_in": 46046,
6
+ "rows_dropped": 3,
7
+ "rows_out": 46043,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.875514+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/common_crawl_3_filtered_0115.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:61572c9ebbf22d7bb08c6ba84de08dd48d95329a77be500837dd5e42eefedbfa
3
+ size 109377207
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 18185, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://www.marlaecohen.com/Auk584226.html", "content": "## キャンパス日誌\n### は぀み先生の蚘念瀌拝が執り行われたした\n### 埌期も察面授業が再開されたした\n### <PERSON_AFFILIATION>先生に敬和孊園倧孊名誉教授の称号が莈られたした\n### 過去ず未来を぀なぐべく、珟圚を生きるこず。\n### 10月の空の䞋で\n### リベラルアヌツ -自由な粟神を育む教育\n### 2021幎床の埌期が始たりたした\n### 収穫の秋ずなりたした\n## 自由な孊びが、\nあなたの未来を支える\n人生の生き方を孊び、人栌を圢づくる、これからの倧切な4幎間。\n敬和孊園倧孊での孊びが、あなたの未来を支えたす。\n## 動画で敬和を知ろう!\n敬和孊園倧孊玹介ビデオ2021\n【キャンパスツアヌ】敬和孊園倧孊のキャンパスを玹介したす\n【キャンパスツアヌ】敬和孊園倧孊の孊生寮を玹介したす\n【䜓隓授業】フィリップ・りィン先生(人文孊郚、英語教育(KEEP))\n【むンタビュヌ】䞀戞信哉先生に「情報メディア」に぀いお聞いおみたした\n【サヌクル玹介】ボヌドゲヌム・サヌクル\n【アクティブラヌニング】サンタプロゞェクト\n【孊生制䜜映像䜜品】しばたオむスタヌバヌ 2021「米蔵ココロ」3分バヌゞョン", "perplexity": 33.60160173725642}}
2
+ {"row_index": 25739, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://newmilmed.com/scrivello1606229.html", "content": "## 勉匷に集䞭する方法(パヌトI)\n研究方法:集䞭する方法。 私たちの孊生が勉匷しようずするたびに盎面する問題の䞀぀は、適切な集䞭力を芋぀けるこずです。 これは、Studentville.itのアドバむスを䜿甚しお行う方法です。\n## ゚ミリア・クラヌク:䌝蚘、䜓重、入れ墚\n゚ミリア・クラヌクは、ドラゎンの母であるデナヌリス・タヌガリアヌンの母、カレヌゞ女王の通蚳です。 あなたは䌝蚘、䜓重ずその入れ墚を知っおいたす。\n### 24時間の人気\n## 入孊詊隓2019:限られた数の利甚可胜な堎所\n入孊詊隓2019、限られた数ずプログラムされたアクセス孊郚のために利甚可胜な堎所:すべおのミュアの通知ず衚瀺に。\n## どの孊郚を遞択したすか? 適性怜査\nどの孊郚を遞択したすか? あなたの性栌や興味に基づいお、オリ゚ンテヌションテストずあなたに最適な倧孊を芋぀けるためのヒント。\n## 䞀般的な神曲のテヌマ\nテヌマは神曲で挔じたした。 プロット、構造、最終コメントぞの蚀及を䌎う、神曲のダンテの旅のテヌマ。\n## 神曲のテヌマ:ダンテのむンフェルノ\n神曲のテヌマ:構造ず芁玄を参照しお、ダンテの地獄で挔じられたテヌマ。", "perplexity": 22.826046406169112}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0115",
5
+ "rows_in": 45871,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45869,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.913316+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/common_crawl_3_filtered_0116.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:545a4a90412a7e0142e9af7e3d77b63ed38063a7ba426ef6331a2e3c4fb431a4
3
+ size 109179295
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 11329, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "https://www.auroraelectricals.com/hydroferrocyanate243665.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の䞀郚を公開しおいたす!\n## 英語で読曞!\n「掋曞はハヌドルが高くお手が出ない」ずいう人も倚いのではないでしょうか。そこで今月の特集では、初めおの方にもおすすめの掋曞などをご玹介したす。むギリスの独立系曞店に「掋曞の今」を聞いたむンタビュヌもお芋逃しなく!\nスキマ時間で満点TOEIC塟濱厎最之茔さんず星名亜玀さんの亀互執筆連茉。忙しい䞭でもなんずか時間を芋぀けおTOEIC(R)L&Rテストのスコアアップを目指したい人のための孊習法を玹介したす。\n英怜1玚ラむティング&スピヌキング察策講座英怜1玚の英䜜文&二次詊隓の察策方法をご玹介!英怜1玚になかなか合栌できないずお悩みの方や、これから挑戊する方、ラむティングやスピヌキングに苊手意識がある方は必読です。\nワンランク䞊の英語ビゞネスメヌル講座ロッシェル・カップさんが、日本人のビゞネスメヌルを添削しながら、正確か぀明確にメヌルを曞くコツや䟿利な英語衚珟を解説したす。この連茉で孊べば、もう英語メヌルは怖くない!\nむギリス育ち翻蚳者の英語文孊ぞのいざない倚様な䜜家による䜜品を通しお、文孊をリアルに感じる読み方をお届け。蚀語衚珟やアむデンティティヌなど、英語孊習者も遭遇するテヌマを、海倖で育った翻蚳者が語りたす。\n字幕のムコり教科曞では目にしない「ちょっず奇劙な英語」にこそ、蚀語や文化をより深く孊ぶためのヒントが隠れおいたす。さたざたな映画䜜品のセリフを通しお、英語のからくりや背景にある文化を探っおいきたしょう。", "perplexity": 17.468646635193263}}
2
+ {"row_index": 14853, "sha1": "e20c2dc4a6cecbdfeb031622e11f6ccbd8ab4f97", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0119", "kept_row_index": 37712, "reason": "exact_duplicate", "record": {"url": "http://isemaru.jp/counterslope352016.html", "content": "新型コロナりむルス感染予防に関するお願い\n## ニュヌス\nむベント\n什和3幎12月4日(土)|楜しい化孊実隓宀4「ケミカルラむトを぀くろう」\n什和3幎12月4日(土)|プログラミング教宀4初玚\n什和3幎11月28日(日)|倧人の科孊教宀2「電子工䜜ぞの誘い」~小鳥のさえずり発生噚の補䜜~\n什和3幎11月27日(土)|科孊工䜜教宀2「LEDを䜿った光のむンテリア工䜜」\n什和3幎10月29日(金)~12月26日(日)|小䌁画展 写真ず映像で綎る宮城の野鳥展\nお知らせ\n什和3幎10月30日(土),31日(日)|アヌスサむ゚ンスりィヌク・ゞャパンを開催したす\n什和3幎11月14日(日)|ロボット教宀 ~工䜜ずプログラミング 初玚~\n什和3幎11月6日(土)|楜しい化孊実隓宀3「氎の䞭で燃える炎」\n## 動画配信\n### 蒲生調査\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 25.966752132360554}}
3
+ {"row_index": 19174, "sha1": "f4e3a28320e98e52b8241e39bc911708931c0aad", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 5557, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/speed-dating-spanish-class/", "content": "designfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラᅵᅵᅵィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.58394496894753}}
4
+ {"row_index": 26108, "sha1": "644cfc490ba89b972cdbb35480ecc8ea691b1233", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0023", "kept_row_index": 41752, "reason": "exact_duplicate", "record": {"url": "http://reflectiveteens.com/Oa/tokyu-hands/iA17421gmh1a4xa4283m/", "content": "今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 埌玉県のポツンず䞀軒家は、 家たでの道路はしっかりしおいお、 広く開拓した敷・・・\n今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 岩手県のポツンず䞀軒家を聞き蟌みするず 䜕でも知っおいるずいうヒラツカさんを・・・\n今回は10月21日攟送の 今、話題の堎所ず䞭継を結ぶ マツコ䌚議 eスポヌツカフェ を振り返りたす。 eスポヌツずは、パ゜コン・スマホ・ゲヌム機 などの察戊型ゲヌムで争う新競技で、 ディレクタヌ<PERSON_AFFILIATION>さんによ・・・\n今回は、チコちゃんに叱られる! 運動䌚をやりようになったのは? チコドリルなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 運動䌚をやるようになったのはなぜ? そ・・・\n今回は、チコちゃんに叱られる! 䜕で女性は電話に出るず 声が高くなる? 亀の長生きなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 女性が電話に出るず声が 高くなるのは、ちっち・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 誰がどんな調べ方をしたのか わからないのにランキング圢匏で 発衚されるず぀い気・・・\n今回は10月17日攟送の ホンマでっか!?TV 実はこうなり぀぀ある! 倉化するニッポンランキング を振り返っおみたす。 時代の倉化ずずもに 倉わり぀぀あるニッポン。 実は今、こうなり぀぀ある・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 䞖界でもっずも䜏みやすい 郜垂ランキング2018 ・・・\n今回は10月15日攟送の、 長嶋䞀茂ず怒れる女たち を振り返っおいきたいず 思いたすので宜しくお願い臎したす。 䞖の女性たちが 怒っおいる事を調査し、 女性・男性ずもに無駄なトラブルを 避けられるようにする・・・\n今回は10月14日攟送の ポツンず䞀軒家 を振り返っおみたす。 静岡県にあるポツンず䞀軒家を 捜しおいるず、ゞョギング䞭だった 地元の事情通 コりゟりさんず出䌚う。 ポツンず䞀軒家に぀いお、知・・・", "perplexity": 11.404461583489942}}
5
+ {"row_index": 45798, "sha1": "315974172036cc66fa201f60efbb1d61e33b75d7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 40935, "reason": "exact_duplicate", "record": {"url": "http://zezeyaki.jp/cephalomant2359990.html", "content": "## アりトドアにハマる!ミリタリヌルックな゜ヌラヌ駆動のタむメックス\nアメリカ発の腕時蚈ブランド・TIMEX(タむメックス)より、゜ヌラヌ機胜を搭茉した腕時蚈「Field Post Solar(フィヌルド ポス...ニュヌス\n## ミニマルなデザむンが目を匕くナタを焚き火のお䟛に\n焚き火の準備に重宝する鉈。「欲しいけど、自分のキャンプスタむルにはちょっずゎツすぎお」ずいう人に、ナむスタむムの新補品...ニュヌス\n## 映画にもなった宇宙船「アポロ13号」の砎損状態を補䜜!【達人のプラモ術<アポロ13号>】\n今回からは、連茉初の宇宙モノである“アポロ13号”を補䜜しおいきたす。映画化もされた、おそらくアポロシリヌズで最も有名な13...How To\n## 仏海軍“戊闘ダむバヌ郚隊”ず共同開発したチュヌダヌの新䜜ダむバヌズ\nスむスの腕時蚈ブランド、チュヌダヌより、ブランドのDNAを匕き継ぐ機械匏ダむバヌズりォッチ「ペラゎス FXD」が登堎。ストラッ...ニュヌス\n## 抜矀の切れ味ず耐久性!折り畳めるハサミ型マルチツヌル、レザヌマン「ラプタヌ レスポンス」\n折り畳み匏の救急ハサミずしお倧ヒットしたレザヌマンのマルチツヌル「ラプタヌ」に新䜜「ラプタヌ レスポンス」が登堎。メむン...䜓隓レポ\n## む゚ナカ趣味時間を快適にする技あり掃陀機4遞【快適ラクチン趣味掻モノ】\n幎々䟿利な機胜が加わる掃陀機。気が利く技あり機胜を備えた最新モデルなら、さりげなくおも確実に手間が枛り、毎日の掃陀がよ...トピックス\n## 䞋半身にも嚁力絶倧!倪もも、ひざ裏、腰をセルフボヌルでコロコロケア\n圚宅・テレワヌクの䜓をケアする 「MONO TRAINING<モノトレ>」 珟代人にずっお、䜓のこりや痛みを生じおしたう原因はいく぀...How To\n## iPad甚のUSBハブにショヌトカット物理キヌ付きっお意倖ず䟿利かも\nメディアショヌトカットキヌを搭茉したiPad向けのUSB-Cハブ、HYPERの「HyperDrive 6-in-1 USB-C Media Hub for iPad」がMakuake...ニュヌス\n## スマホの磁力の圱響を防ぐ“第2皮耐磁”を備えた「シチズン シリヌズ゚むト」\nシチズンのシリヌズ゚むトより、“第2皮耐磁”性胜付きのムヌブメントを搭茉し、磁力の悪圱響を極力抑えた「870 Mechanical 限定...ニュヌス\n## SSDスロット付き!党郚入りドックに぀なげおマむマシンを匷化しよう!\nj5createの「USB-C M.2スロット搭茉 12in1 ドッキングステヌション JCD552」は、党郚で12口の接続ポヌトを搭茉。M.2 SSDスロッ...ニュヌス\n## 高玚感ずワむルドさを䞡立したGANZOの䞉぀折りミニ財垃\n日本補高玚革財垃ブランド GANZOより、新䜜の䞉぀折り財垃「SHELL CORDOVAN2(シェルコヌドバン2)䞉぀折り財垃」が発売。深み...ニュヌス\n## リヌルがモチヌフ!? TIMEXが釣具ブランド「アブ・ガルシア」ず異色のコラボ!\nTIMEXより12月䞭旬発売予定の新䜜「Abu Garcia×TIMEX スペシャルりォッチ」は、人気フィッシングブランド・Abu Garciaずのコラ...ニュヌス\n## ホカ オネオネ×モンクレヌルはフランスコラボらしいトリコロヌルが目印!\nホカ オネオネずモンクレヌルずいうフレンチアルプスにゆかりのある2ブランドによるトレランシュヌズ「Moncler×HOKA MAFATE SP...ニュヌス\n## 急がないず買えなくなるかも!? ホンダ クロスロヌド【遊べる絶版車図鑑】\n発売圓時はあたり評䟡されず販売台数はふるわなかったホンダ クロスロヌド。わずか3幎半で生産終了になりたしたが、ここ数幎、...コラム\n## 党自動コヌヒヌメヌカヌ10モデルバトルロむダル【快適ラクチン趣味掻モノ】\nハンドドリップで手間をかけお淹れるのも楜しいが、毎日飲むなら党自動で手軜においしいコヌヒヌを楜しみたいずいう人も少なく...トピックス\n## 地球越しにみるムヌブメントが矎しいフレデリック・コンスタントのスケルトンモデル\nスむスのマニュファクチュヌルブランド、フレデリック・コンスタントが、限定モデル「ハむラむフ オヌトマチック スケルトン」...ニュヌス\n## ただただノヌトも必芁ならノヌトPCサむズの暪長タむプがいいかも\nクラフトデザむンテクノロゞヌから発売の「デスクノヌト」(Sサむズ:990円、Lサむズ:1320円)はノヌトPCの前に眮いおちょうど...ニュヌス\n## 家の䞭も倖も高コスパなセキュリティカメラを蚭眮しお安心安党に\n「セキュリティカメラは高䟡なものばかりで、手が出せない...」ず思っおいたせんか? 数倚くのスマヌト家電を展開する+Styleから...ニュヌス\n## ミリタリヌラむクなワヌク゚プロンはキャンプやDIYで倧掻躍!\nシンプルで無骚、どこかノィンテヌゞテむスト。そんなワヌク゚プロンが、男前なギアを展開するPOST GENERALから新登堎! ノィ...ニュヌス\n## PCなしでデヌタ送信たでできるドキュメントスキャナで玙のデヌタ化が捗る!\n## 軜さ、暖かさ、耐久性を兌ね備えたアヌクテリクスの本気ダりン\nARC’TERYXの新䜜「ALPHA PARKA」は、過酷なアルパむンクラむミングでの着甚を想定しお蚭蚈されたダりン仕様のビレむパヌカヌ。...ニュヌス\n## リフレクタヌにAirTagを忍ばせおしれっず自転車の盗難察策!\nステルスAirTagバむクマりント「Maco TRACE」は内郚にAirTagを収玍できるリフレクタヌ。もし自転車が盗たれおも、AirTagの電波...ニュヌス\n## 暖かく高機胜な氎沢ダりンのハむスペックモデルをリラックスフィットに!\n冬の悪倩候時の厳しい寒さにも耐えうる高機胜ダりン「氎沢ダりン」。そのハむスペックモデル「マりンテニア」が、人気セレクト...ニュヌス\n## 毎日の食事をダむ゚ットに倉えおくれるヘルシヌ調理家電5遞【快適ラクチン趣味掻モノ】\n【快適ラクチン趣味掻モノ】 近幎、糖質や油分を控えるなど、健康的な食事に気を遣う䜿う人が増えおきた。そんなニヌズに応え...トピックス\n## 軜くおコンパクトでメガネのようなVRグラスなら持ち歩きも苊じゃないね\n11月より発売の「VIVE Flow (ノァむノフロヌ) 」(型番:99HASV006-00、5侇9990円)は、同瀟ずしおも初ずなるメガネ型の軜やか...ニュヌス\n## 単3&単4充電池を充電できおラむトでもモバむルバッテリヌでも䜿えるぞ!\nenevoltの充電池甚充電噚「Mulcy(マルシヌ)マルチ充電パワヌバンク」は、18650圢充電池ずニッケル氎玠充電池を同時に充電する...ニュヌス\n## 10䞇円超のコンパクトスマホ「BALMUDA Phone」が衚珟するバルミュヌダらしさずは\nバルミュヌダがスマホを発衚したした。その名はズバリ「BALMUDA Phone」で、11月26日に発売されたす。囜内キャリアでは゜フトバ...ニュヌス\n## 窓から炎を眺められる焚き火台はBBQも調理もやりやすい!\n埅ちに埅った焚き火シヌズン。「炎を目で芋お癒されたいけど安党性も倧事、もちろん盎火調理は欠かせない」なんお欲匵りなキャ...ニュヌス\n## パッず芋はシンプルなバックパックなのに内郚はかなり凝っおたす!\nあらゆるシヌンで誰もがカッコよく持ち歩ける倚機胜パックパックずしお話題の「Errant Backpack」が、いよいよ日本に䞊陞。“持...ニュヌス\n## ドラむバヌに異垞が生じたら自動で運転!マツダ“CO-PILOT”のドラテクはプロ玚だ☆岡厎五朗の県\nマツダは2022幎に発売する新型車から、新しい先進運転支揎システム“MAZDA CO-PILOT(マツダ・コ・パむロット)”の搭茉を進めお...䜓隓レポ\n## 朚圫りの金剛力士立像は高さ玄10cmなのにド迫力!\n仏像ワヌルドから12月1日に発売される「極小仏 金剛力士立像」(2䜓セット・3侇8500円)は、東倧寺南倧門にある同名の囜宝を、...ニュヌス\n## したっおおいた服に付いた“あのニオむ”が気になるなら立ち䞊がり玄30秒の衣類スチヌマヌで簡単ニオむケア\n緊急事態宣蚀が明け、通勀する機䌚が増えた今日この頃。困るのが、着るものです。長かったテレワヌク期間䞭、楜な栌奜しかしお...䜓隓レポ\n## 独自技術でこだわりの味を堪胜できるキッチン家電4遞【快適ラクチン趣味掻モノ】\n手軜さや察応レシピの充実ぶりも倧事だが、料理を趣味にしおいるなら味にもこだわりたいずころ。独自の 技術でワンランク䞊の味...トピックス\n## 春麗仕様の宀内甚バむクでストVのキャラのような肉䜓を目指しおみる?\nステディゞャパンから宀内甚バむク「春麗モデルスピンバむク」(2侇9800円)が発売。カプコンの察戊栌闘ゲヌム「ストリヌトファ...ニュヌス\n## フォノアンプ内蔵のレコヌドプレヌダヌでアナログ音質を堪胜しよう\nティアックより11月䞋旬に発売予定の「アナログタヌンテヌブル(TN-350-SE)」は、本䜓にフォノアンプを内蔵。レコヌドのアナロ...7䞇円で買えるご耒矎モノ\n## ゚コなコヌデュラ玠材を䜿ったアりトドアプロダクツ×ネむバヌフッドのコラボバッグ\nOUTDOOR PRODUCTSずNEIGHBORHOODが3幎ぶりにコラボした新䜜バッグ4アむテムが登堎。補造廃棄物を再生した環境に優しいナむロン...ニュヌス\n## 埌ろ偎が開くから長いテヌブルやタヌプポヌルも寝かせお運べたす!\n荷物が倚くなりがちなキャンプやBBQの際に、あるず䟿利なのが倧型のキャリヌワゎン。WGの「WGキャリヌワゎン」は、荷台の埌郚が...ニュヌス\n## 磁石でくっ぀く小型スピヌカヌだからMagSafe察応iPhoneにもくっ぀きたすよ\n「MiLi Mag-SoundMate」(2970円~ 11月16日珟圚)は、MagSafe察応iPhoneに磁力で簡単に脱着可胜で、スタンド代わりにも䜿甚で...ニュヌス\n## 人気蚘事ランキング\n## 焚き火台で湯沞かしできれば掗い物に助かる!足湯もいいかも!1䜍ニュヌス\n## 冬にうれしいブヌツラむクな「ナむキ ゚ア フォヌス 1」が今どき感満点です!2䜍䜓隓レポ\n## iPadナヌザヌなら知っおおきたいApple補品ずの連携機胜5遞|iPad Hacks3䜍How To\n## コヌヒヌ奜きのためのマルチツヌル「ビクトリノックス×カリタ」が誕生!4䜍ニュヌス\n## これだけあれば最䜎限の゜ロキャンプができる6぀の厳遞ギア!2021幎版5䜍䜓隓レポ\n## ゆらぐアロマミストはたるで炎!ゆらぎず銙りで癒しのリラックスタむムを6䜍ニュヌス\n## 単3&単4充電池を充電できおラむトでもモバむルバッテリヌでも䜿えるぞ!7䜍ニュヌス\n## 動きやすく暖かい!2皮類のりヌルを䜿ったホグロフスのフリヌスゞャケット8䜍ニュヌス\n## 雚が降るずむしろキレむに?愛車メンテナンスは自分でやっちゃおう9䜍ニュヌス\n## 冬の足元をぬくぬくに!アりトドア系ブランドの最新冬靎5遞10䜍THE 5遞\n## ラりンドアップ\n## 食る楜しさが倍増する“胞アツ”ディスプレむアむテム9遞【趣味な男の収玍ギア】トピックス\n## プラモ補䜜甚工具をスッキリしたえる技アリ収玍ボックス7遞【趣味な男の収玍ギア】トピックス\n## バッグタむプ×デヌタで導き出すカメラバッグの最適解8遞【趣味な男の収玍ギア】トピックス\n## プロフェッショナルの信頌を集めるハヌドケヌスの雄“PELICAN”【趣味な男の収玍ギア】トピックス\n## オン・オフ䜿える“ゆる系”ビゞネスバッグ7遞【趣味な男の収玍ギア】トピックス\n## 必芁なのは工具だけじゃない!䜜業の効率が䞊がるサむドグッズ8遞【趣味な男の収玍ギア】トピックス\n## 䜜業の気分も䞊がる!? 身に着ける工具入れ8遞【趣味な男の収玍ギア】トピックス\n## プロフェッショナル気分になれる据え眮き型ツヌルボックス6遞【趣味な男の収玍ギア】トピックス\n## 工具を敎理&収玍しお持ち運べる小型ツヌルボックス7遞【趣味な男の収玍ギア】トピックス\n## あらゆるフィヌルドで倧掻躍!華麗なる“ハコ車”6遞【趣味な男の収玍ギア】トピックス\n## 機胜、信頌、䜿い勝手etc“語れる”バックパック4遞【趣味な男の収玍ギア】トピックス\n## 収玍力が栌段にUPするルヌフボックス6遞【趣味な男の収玍ギア】トピックス\n## 四角くすれば䜕かず䟿利!キャンプ系“ハコモノ”8遞【趣味な男の収玍ギア】トピックス\n## 倧きなギアもラクしお運べるアりトドアワゎン5遞【趣味な男の収玍ギア】トピックス\n## 普段䜿いもできるフィッシングり゚ア7遞【最優秀ベストバリュヌモノ倧捜査】トピックス\n## これさえあれば始められる!初心者向けフィッシングギア【最優秀ベストバリュヌモノ倧捜査】トピックス\n## 秋の倜長に浞れる焚き火&灯りギア6遞【最優秀ベストバリュヌモノ倧捜査】トピックス\n## 動画撮るなら専甚機で!最新Vlogカメラ&アクションカム5遞【最優秀ベストバリュヌモノ倧捜査】トピックス\n## マンスリヌチョむス\n## 最高120°Cたで熱くなるロシアのテントサりナで“りィスキング”しおみない?ニュヌス\n## ゞりゞアヌロがデザむンした皀代の名車「いすゞ 117クヌペ」初期型を粟密再珟!ニュヌス\n## 釣りシヌンから生たれたDAIWAの高機胜ゞャケットは街でも着られる高コスパな1着ニュヌス\n## 1/64ミニカヌで“蟲道のポルシェ”スバル サンバヌ トラックが楜しめる!ニュヌス\n## キャンプ぀いでに釣りする?気軜に䜿えるロッドありたすよニュヌス\n## ああ、そういう意味ね!...が面癜い「切りたい麻雀牌」で卓を囲みたくなるニュヌス\n## Wi-Fi 6関係ない?いやいやスティック挿すだけで恩恵が埗られたすよニュヌス\n## スマホず぀ながる進化系ポラロむドが創造性を刺激する7䞇円で買えるご耒矎モノ\n## ちょい長めが䜕かずサりナにちょうどいい!ちなみに長さは“113.7cm(いいサりナ)”ニュヌス", "perplexity": 31.591948042081125}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0116",
5
+ "rows_in": 45816,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45811,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:07.300301+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.1,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/common_crawl_3_filtered_0117.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e7f709072ab67e3ddf6671379fa8249e443450c885951819a258bb7534cd2bc1
3
+ size 109886946
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 5351, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Rohre-&-Rohrzubeh%C3%B6r-195221-Rohrstopfen-Rechteckstopfen-Lamellenstopfen.do", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
2
+ {"row_index": 25623, "sha1": "d13f69dbcce0ab97a66b7eb97e9b98e5d69dd620", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 28263, "reason": "exact_duplicate", "record": {"url": "http://messy.homeip.net/3078-3-day-special-15-cashback-on-irctc-story-ja", "content": "Poly、「Microsoft Teams Rooms」察応の䌚議宀゜リュヌションを発衚\nレノボ、SCSKずゲノム解析分ᅵᅵᅵで協業\n浊和レッズ、「LINE WORKS」を党瀟員に\nクラりドアプリベンダヌがより䜿いやすく―アむネットのIaaSサヌビス「Next Generation EASY Cloud」\nアマゟン、高霢者芋守りサヌビス「Alexa Together」を米囜で開始--自立した生掻を支揎\nマむクロ゜フト、宇宙事業「Azure Space」の゚コシステム拡倧--゚アバスず提携も\n「Raspberry Pi OS」、2皮類が提䟛ぞ--Buster版ずBullseye版\nガヌトナヌのアナリストが説く「゚ッゞ×機械孊習」のむンパクトずは\n「Microsoft Teams Store」が刷新--アプリの怜玢やむンストヌルが容易に\nオラクルの第2四半期決算、予想䞊回る--クラりド事業が奜調\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\n量子コンピュヌティングのビゞネス利甚--経営陣が今すべきこず\n量子コンピュヌティングは開発の初期段階にあり、珟時点で倚額の研究開発費を投じるのは難しいかもしれない。だが、自瀟ぞの朜圚的な圱響の調査は早めに開始しおおく必芁がある。\n教育業界においお急務ずなっおいるICT環境の敎備においおのヘッドセット、りェブカメラ、ビデオバヌなどのオヌディオ・映像機噚の管理方法を解説したす。\nラむブ画面から賌入可胜--ピヌチ・ゞョンがラむブコマヌスサヌビス採甚\n䞋着やルヌムりェアなどを展開するピヌチ・ゞョンは、日本ナニシスのラむブコマヌスサヌビス「Live kit(ラむブキット)」を採甚した。新しいCXを提䟛し、消費者ずの継続的な関係を構築するこずが目的だずいう。\nAWS、クラりドベヌスの゜リュヌションでファむザヌの創薬加速化を支揎\nAWSずファむザヌが連携し、新薬の開発や生産、臚床詊隓に向けた配送を迅速化するクラりドベヌスの゜リュヌションを生み出しおいる。\n日立ず応甚地質、「地䞭可芖化サヌビス」匷化--オンデマンドで高粟床な埋蚭物䜍眮情報を提䟛\n日立補䜜所ず応甚地質は、䞊䞋氎道、ガス、電気、通信などむンフラ事業者や斜工/蚭蚈業者向けに展開する「地䞭可芖化サヌビス」を匷化し、クラりドを掻甚した新たなオンデマンドサヌビスずしお提䟛開始した。\n医療機噚メヌカヌの朝日むンテック、本瀟ず海倖グルヌプ䌚瀟で「SAP S/4HANA」皌働\n朝日むンテックは、本瀟ず海倖グルヌプ䌚瀟でERP「SAP S/4HANA」、クラりドプラットフォヌム「SAP HANA Enterprise Cloud」、分析゜リュヌション「SAP Analytics Cloud」を導入し、7月から本栌運甚しおいる。\nパナ゜ニックら、コン゜ヌシアム蚭立--生䜓認蚌掻甚の業界暪断型プラットフォヌム実珟ぞ\nJCB、DNP、パナ゜ニック、りそなHDは、生䜓認蚌を掻甚した業界暪断型プラットフォヌム「顔認蚌マルチチャネルプラットフォヌム」の実珟に向け、コン゜ヌシアムを蚭立した。\n゚クむニクス、アフリカで事業拡倧ぞ--デヌタセンタヌ䌁業MainOne買収を発衚\nデヌタセンタヌ倧手゚クむニクスは、西アフリカを本拠地ずするデヌタセンタヌ䌁業MainOneを3億2000䞇ドルで買収し、アフリカで事業を拡倧するず発衚した。\n仮想デスクトップサヌビスの最新事情~マむクロ゜フトのVDIサヌビスはどう違う?\n[PR]働き方改革や新型コロナりむルス感染症察策に䌎い、自宅などからのリモヌトワヌクが身近になり、情報挏えい察策の芳点から仮想デスクトップ基盀(VDI)の利掻甚しおいるずころは倚いだろう。\nRustをLinuxカヌネル開発の第2蚀語に採甚する詊みに向け新パッチ\nLinuxカヌネルの開発にRustを採り入れようずする動きが少しず぀歩を進めおいるかもしれない。\n### 䌁画特集\n゚ッゞ垂堎の掻性化ぞ\n高たるIoTを䞭心ずした゚ッゞ分野ぞの期埅\nOSS掻甚が新しい時代のビゞネスを拓く\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nデヌタドリブンに足りないもの\nDOMO Japan 川厎氏に聞く\nデヌタ掻甚胜力の向䞊に必芁なこず\nKubernetes掻甚の最適解ずは?\n今、泚目のコンテナを掻甚した柔軟なIT基盀\n運甚、管理の課題を解決しメリットを最倧化\nID管理の基瀎知識\n新しい働き方におけるITガバナンスの\n向䞊にむけお\n楜倩゚コシステムずのシナゞヌを創出\nスタゞアムや経枈圏を生かした実蚌実隓も\n楜倩モバむル流5G共創プログラム\n50幎の経隓を持぀アむネットが提䟛\nナヌザヌ䌁業の䜿いやすさを第䞀に考えた\nワンストップで䜿えるマネヌゞドクラりド\n最新ストレヌゞで倉わるIT運甹\n仮想化テクノロゞヌずFlashArrayの組合せで\n運甚負荷軜枛ず高性胜化を実珟したDMM\nRPA芋盎される”業務”ず”人”の関係\n人的リ゜ヌスを単玔䜜業から解攟!\n高付加䟡倀業務ぞの転換のために\nオリゞナルコンテンツが満茉!\n意倖ず知らないNutanix HCI の情報を集玄\n読めばわかる!いたHCIが泚目される理由\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nサむバヌ犯眪者の優勢に立぀\n導入・運甚がしやすい次䞖代セキュリティ\n巧みな攻撃を防ぐ「NDR」に泚目!\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nモダンなOSだからこそ可胜\nMS補品の歎史を振り返りながら\nビルトむンセキュリティの利点を理解\n本圓のデヌタ掻甚できおいたすか?\nデヌタドリブンがあたりたえず蚀われる今あらためお考えたいデヌタ掻甚のありかた\n芋えおたすか?通信のボトルネック\n快適なデゞタルワヌクの阻害芁因を解消\nZscaler Digital Experience(ZDX)導入の䟡倀\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした\nこれからの時代のWi-Fi環境構築のポむント\n珟堎䞻導のデゞタル倉革\nビゞネス倉革のための“ITの民䞻化”\nそしお 倉わるIT郚門の圹割\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\nビゞネスずITの最前線\n官民をあげおDXを急ぐ䞭で、\nキヌマンが語る成功ぞのポむント\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\n党䞖界22䞇以䞊の䌁業・組織で採甚\nDX時代の顧客䟡倀創出に倧きな圹割を担う\nCI/CD環境の珟実解を玐解く\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\niPhoneデバむスも統合的に管理\n激しく倉化する業務環境ずリスクに合わせ\n深化するM365セキュリティ\nリモヌトワヌクを成功させる方法\n必須ずなるセキュリティをどう匷化するか\n必芁な察策5぀を玹介\nアプリ開発がビゞネスを巊右する\nクラりドネむティブ時代に\nアプリ開発に専念できる環境の重芁性\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\n今時プラむベヌトクラりドの䜜り方\n2020幎代のプラむベヌトクラりド環境を\nAzureずVMwareを䟋に玹介\n仮想デスクトップサヌビスの最新事情\n耇数の遞択肢のあるMSのVDIサヌビス\nどう違うのかをわかりやすく解説\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所", "perplexity": 16.992037616227375}}
3
+ {"row_index": 34802, "sha1": "d7460ddc06bcba3623bb1604d8368b2c158073c4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0081", "kept_row_index": 129, "reason": "exact_duplicate", "record": {"url": "http://frontlinenow.com/brit4799003.html", "content": "蟲業の党おがᅵᅵᅵたるWEBサむト「マむナビ蟲業」の䌁画営業職を募集\n䜜物がうたく育たない。その原因、肥料のせいにしおいたせんか?初代葱垫“寅ちゃん”が提蚀する「すべおは技術力にあり」。その真髄に迫る!\n蟲家にずっおこれからはデヌタによる圃堎管理が欠かせたせん。『xarvio(ザルビオ)』で、衛星画像×AI解析を道暙に栜培管理を最適化。\n*NEW*\n「被害株4~5割でも秀品を䜜る」サツマむモ基腐病ず闘う『宮厎玅』の䌝統産地\n䞍安定な時代だからこそ、契玄栜培で安定した蟲業経営を目指したせんか。カゎメがトマトの契玄蟲家募集䞭\n就蟲5幎目で売䞊600䞇円も倢じゃない!「儲かる蟲業」を目指すなら、宮厎県小林垂&高原町\n倧自然なのにアクセス&䜏みやすさGOODな南阿蘇♪ 地域おこし協力隊 ずしお移䜏ぞの第䞀歩を螏み出そう!@熊本\n「立梅甚氎」の恵みを生かした䞭山間地域での蟲業&地域課題研修に参加したせんか?【「あぐトリ」参加者募集䞭!】\n吹きすさぶ寒颚をシャットアりト。蒞れずに䜓感プラス5°C、防颚むンナヌで䜜業しおみた\n腐怍物質で䜜物はストレスに匷くなる! デンカ新商品の䜿甚感が凄い\n牛舎の”可胜性”に泚目!牛舎の新築時は芋逃すこずなかれ!搟乳量アップの決め手ずなる「次䞖代閉鎖型牛舎」ずは\n鹿児島ブランドのさ぀たいもを䞖界ぞ。海倖からの需芁が絶えない、Japapoの矎味しさず安定䟛絊の䌁業秘密に迫る\n腐食性ガスを発生する蟲䜜物の長期保管に。 冷蔵蚭備の耐食性を高め、故障リスクを䜎枛する「カチオン塗装」ずは\n【動画付き】倧分県ならではの自然環境ず手厚い支揎でいざ、就蟲! 癜ねぎやキャベツなど【露地野菜栜培】の魅力や高原蟲業のメリットずは?\n【タキむ研究蟲堎付属園芞専門孊校】入孊金・授業料・寮費食費はれロ。玄7割が実習ずいう環境で、蟲業の実践力を身に着ける!\n蟲薬っお結局どうなの?持続可胜な蟲業ず䜜物保護に぀いお考えおみたせんか\n劎働時間や甚氎量の削枛だけでなく、米䜜りも倉える『WATARAS(ワタラス)』ずは\n【蟲業䜓隓in犏島県浪江町】憧れを“珟実に”。蟲業䜓隓を通しお芋えおきた目指す営蟲スタむルず蟲業の可胜性。\n組織づくりに尜力!充実しお働ける環境を実珟できた畜産䌁業の秘策ずは\n「林業」の仕事を山口県で実珟しよう! 1/29(土)にオンラむン講座を開催【参加者募集䞭】\n※アヌカむブ動画公開䞭※【11月21日(日)13:00開催】蟲業法人で働く先茩蟲家が畑からLive配信!こうち就蟲Liveセミナヌ\n日本の畜産を盛り䞊げたい!―JGAPを通じお人にも動物にも優しい畜産を目指す遠野牧堎の挑戊―\n【犏島県犏島垂】生掻圏内で蟲業を!子育お䞖代にもやさしい「郜垂近郊蟲業」に芋る、新しい営蟲のカタチ\n## 新着蚘事\n6次化で倱敗する芁因ずは。小さい蟲家が考える、勝おる加工【れロからはじめる独立蟲家#28】\n安党な堆肥は良い堆肥に通じる リスクを䞋げる堆肥䜜りの方法\n持続可胜な氎産業を目指しお 海を守るため、持垫がしおいるこず 私たちができるこず\n【䌚員限定】倚品目栜培だけが遞択肢じゃない、「豆がメむン」に転換した有機蟲家\n生産の効率化に挑むJAの次の䞀手ずは 収穫機の無人化の先に“共同圃堎”構想\n挫画「宮厎に移䜏した蟲家の嫁日蚘」【第193話】畑の特性を把握しよう\nニッチ䜜物だから出䌚いがある。蟲業女子があえお盎販する癜小豆\n぀ぶやくだけで䜜業蚘録を付けられる 原䟡6000円でコメ1俵を目指す蟲家の働き方改革ずは\n【倖囜人雇甚に぀いお考える】第35回:䌁業が倖囜人留孊生を採甚する方法ずは?正瀟員やアルバむトでの雇甚方法を玹介!\n【倖囜人雇甚に぀いお考える】第34回:倖囜人のアルバむト雇甚でも就劎ビザは取埗できる?副業アルバむトでの雇甚は可胜?\n### 持続可胜な日本の蟲業 JGAP認蚌を知ろう!\n### 蟲業をはじめよう!がばいよかずこ䜐賀で!\n### 岐阜ではじめる蟲業ラむフ | ぎふアグリチャレンゞ支揎センタヌ\n### みやざき就蟲垌望者発掘事業\nあなたはどのタむプ?就蟲蚺断チャヌト", "perplexity": 36.68351378212871}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0117",
5
+ "rows_in": 46072,
6
+ "rows_dropped": 3,
7
+ "rows_out": 46069,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:08.343151+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/common_crawl_3_filtered_0118.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d0762c1374407c2fcf3a8a541972614ecae70057a36d22c3c07e852219f345bf
3
+ size 109805307
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 6641, "sha1": "5f236feb5603c42ca9d4d0017ecf18fb26264da1", "kept_config": "common_crawl_3", "kept_shard": "common_crawl_3_filtered_0056", "kept_row_index": 39892, "reason": "exact_duplicate", "record": {"url": "http://www.salon-eight.com/hyperenthusiasm884967.html", "content": "## 特集蚘事\nリック・アリ゜ン リック・アリ゜ン (本名: ÉricVleminckx、1964幎7月17日、ブリュッセル生たれ)は、ベルギヌ生たれのカナダ人歌手、䜜家、レコヌドプロデュヌサヌです。 バむオグラフィヌ 1990幎、アリ゜ンはブリュッセルのピアノバヌで歌手のララファビアンに䌚いたした。圌らは䞀緒に最初の曲を曞き始め、1991幎にモントリオヌルに行っおファビアンのファヌストアルバムに取り組みたした。このレコヌドは1991幎にカナダで発衚され、商業的に倧きな成功を収めたした。アリ゜ンはファビアンの次のフランコフォンアルバムを制䜜したした 今を楜しめ, ピュア そしお 鵺、これらはすべお非垞にうたく機胜し、カナダずフランス語圏のペヌロッパでいく぀かのヒットシングルを生み出したした。圌はたた圌女の最初の英語のアルバムに取り組んだ ララ・ファビアン. 党郚で、圌は2500䞇以䞊のレコヌドを売りたした。 2002幎のナヌロビゞョン゜ングコンテストでは、アリ゜ンはサンドリヌヌフラン゜ワによるフランスの゚ントリヌ「Ilfautdutemps」の音楜を曞きたした。その同じ幎、圌はゞョニヌ・アリディのアルバムに3曲を寄皿したした Àlavie、àlamort、シングルを含む Penseàmoi. アリ゜ンは、シメヌヌ・バディのデビュヌアルバムをプロデュヌスしたずきに (\n## 知っおたすか ...\nLesMisérablesの架空の人物 ファンティヌヌレ・ミれラブル キャラクタヌファンティヌヌ マヌガレット・ホヌルによっお䜜成されたノィクトル・ナヌゎヌ宇宙内情報性別女性職業工堎劎働者、売春婊重芁 その他FélixTholomyÚs子䟛達コれット(嚘)芪戚マリりス・ポンメルシヌ(矩理の息子)囜籍フランス語 ファンティヌヌ (フランス語の発音: [fɑ̃.tin])は、ノィクトルナヌゎヌの1862幎の小説の架空の人物です レ・ミれラブル。圌女は若いです グリれット 金持ちの孊生に劊嚠したパリで。圌が圌女を捚おた埌、圌女は自分の子䟛、コれットの䞖話をするこずを䜙儀なくされたした。元々は矎しく玠朎な少女だったファンティヌヌは、状況によっお売春婊になるこずを䜙儀なくされ、髪ず前歯を売り、矎しさず健康を倱いたした。圌女が皌いだお金は圌女の嚘を支揎するために送られたす。 圌女は最初にフランスのロヌズ・ロヌレンスによっおミュヌゞカルで挔奏され、ミュヌゞカルがむギリスに来たずき、パティ・ルポヌンはり゚スト゚ンドでファンティ (\n## ニュヌスで\nこの蚘事 ゜ヌスを匕甚しおいたせん. 助けおください この蚘事を改善する 信頌できる情報源に匕甚を远加するこずによっお。調達されおいない資料は、異議を申し立おられ、削陀される堎合がありたす。゜ヌスを芋぀ける: 「ベルギヌロむダル゚スコヌト」 – ニュヌス · 新聞 · 本 · 孊者 · JSTOR (2009幎12月) (このテンプレヌトメッセヌゞを削陀する方法ずタむミングを確認しおください) 2018幎ベルギヌ建囜蚘念日のベルギヌ王立護衛 ザ・ ベルギヌロむダル゚スコヌト (オランダの: Koninklijk escorte te paard、 フランス語: Escorteroyaleàcheval)は、儀匏の際にベルギヌの君䞻に同行する銬ずオヌトバむに取り付けられたナニットです。たた、ブリュッセルの王宮で資栌情報を提瀺する倖囜の元銖や倧䜿に護衛を提䟛したす。 内容 1 組成 2 歎史 3 珟代の護衛 4 も参照しおください 組成 ロむダル゚スコヌトはフルタむムのナニットではありたせんが、䞊蚘のような䞻芁な匏兞の際に集められたす。それは連邊譊察のナニットによっお提䟛されたす。憲兵隊ず譊察が合䜵する前は、ナニットは憲兵隊によっお提䟛されおいたした。マりントされた護衛ずオヌトバむの護衛の2぀のロむダル゚スコヌトがありたす。 歎史 ベルギヌの君䞻は、1830幎のベルギヌの独立以来 (\n## この日に\nアメリカの政治家に぀いおは、ロバヌトバトラヌ(バヌゞニア州の政治家)を参照しおください。 ロバヌトN.バトラヌ2004幎の執事生たれロバヌトニヌルバトラヌ(1927-01-21)1927幎1月21日ニュヌペヌク垂、ニュヌペヌク、米囜死亡したした2010幎7月4日(2010-07-04) (83æ­³)ニュヌペヌク垂、ニュヌペヌク、米囜母校コロンビア倧孊賞ピュヌリッツァヌ賞(1976)科孊者ずしおのキャリア田畑老幎孊粟神医孊 ロバヌトニヌルバトラヌ (1927幎1月21日– 2010幎7月4日)は、米囜囜立老化研究所の初代所長であったアメリカの医垫、ゞェロントロゞスト、粟神科医、および著者でした。バトラヌは、高霢者の瀟䌚的ニヌズず暩利に関する研究ず、健康的な老化ず認知症に関する研究で知られおいたす。 内容 1 バックグラりンド 2 キャリア 3 出版物 3.1 最近の本 4 賞 5 映画出挔 6 参考文献 7 倖郚リンク バックグラりンド ニュヌゞャヌゞヌ州バむンランドで祖父母ず䞀緒に育ったバトラヌは、医孊郚の倚くの教垫による高霢者ずその病気に察する軜蔑的で軜蔑的な態床にショックを受けたした。この態床は埌に「゚むゞズム」ず呌ばれたした。 圌はコロンビア倧孊のコロンビア倧孊を卒業し、そこで線集者を務めたした。 コロンビアデむリヌスペクテむタヌ そしおフィロ゜フィアン゜サ゚ティのメンバヌ。 キャ (\n## その日の絵", "perplexity": 11.780392136810283}}
2
+ {"row_index": 12713, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://www.kitosya.com/kernel422279.html", "content": "## 勉匷に集䞭する方法(パヌトI)\n研究方法:集䞭する方法。 私たちの孊生が勉匷しようずするたびに盎面する問題の䞀぀は、適切な集䞭力を芋぀けるこずです。 これは、Studentville.itのアドバむスを䜿甚しお行う方法です。\n## ゚ミリア・クラヌク:䌝蚘、䜓重、入れ墚\n゚ミリア・クラヌクは、ドラゎンの母であるデナヌリス・タヌガリアヌンの母、カレヌゞ女王の通蚳です。 あなたは䌝蚘、䜓重ずその入れ墚を知っおいたす。\n### 24時間の人気\n## 入孊詊隓2019:限られた数の利甚可胜な堎所\n入孊詊隓2019、限られた数ずプログラムされたアクセス孊郚のために利甚可胜な堎所:すべおのミュアの通知ず衚瀺に。\n## どの孊郚を遞択したすか? 適性怜査\nどの孊郚を遞択したすか? あなたの性栌や興味に基づいお、オリ゚ンテヌションテストずあなたに最適な倧孊を芋぀けるためのヒント。\n## 䞀般的な神曲のテヌマ\nテヌマは神曲で挔じたした。 プロット、構造、最終コメントぞの蚀及を䌎う、神曲のダンテの旅のテヌマ。\n## 神曲のテヌマ:ダンテのむンフェルノ\n神曲のテヌマ:構造ず芁玄を参照しお、ダンテの地獄で挔じられたテヌマ。", "perplexity": 22.826046406169112}}
3
+ {"row_index": 20470, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Aderend-&-Isolierh%C3%BClsen-338046-48x08mm-St%C3%BCck-Steckverbinder.do", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいᅵᅵ、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
4
+ {"row_index": 29374, "sha1": "ffcf929c134cf75cd98e619bac27f474eb0205d6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0055", "kept_row_index": 35321, "reason": "exact_duplicate", "record": {"url": "http://jtfeatures.com/differentiate227226.html", "content": "### 色ずりどりの鍵ず自分の胜力倀\n2021幎6月末から7月䞋旬たで、ベリア村の海岞に出珟した宝箱を開けおいくむベントがありたした。\n色ずりどりの鍵むベント\n宝箱の呚りには、コルセアがボスずなっおいるパタパタ海賊団のラッコたちがいたす。\nこの宝箱は、むベント期間で狩り・釣り・採集で手に入る色ずりどりの鍵を䜿う必芁がありたす。\nむベント期間䞭で手に入った色ずりどりの鍵は105個でした。\nちょっず少ない・・・かも?\n合蚈105回、ベリア村の海岞の宝箱を開けおいった結果はこちら。\n100Mシルバヌの䟡倀がある黄金ガレヌ船像が1個だけ出たした。\nその他も高䟡な品がいっぱい・・・これは凄い!\n黄金シヌラカンス像もバッグ内で1マスに重なっおもらえないものでしょうか・・・。\nこの高䟡な品々を買い取っおくれるむケメンは・・・そう、圌ですね。\n豚に真珠ならぬ、オヌクに真珠ですが、そんなこずはお構いなしに快く買い取っおくれたした♪\n合蚈469Mシルバヌのお買い䞊げ、ありがずうな!\n装備UIやキャラクタヌ情報UIから、自分の胜力倀の詳现衚蚘が芋えるようになりたしたね。\n自分の胜力倀の詳现衚蚘\nキャラクタヌ自身のステヌタス、装備のステヌタス、料理などのバフを加算した最終胜力倀が確認できたす。\nそれにしおも・・・このUI党䜓の倧きさに比べお䜙癜が倚すぎたせんか?\nちゃんず詰めお衚蚘すれば、もっずコンパクトに纏められお芋やすくなるず思うのですが・・・。\nロヌカラむズする蚀語によっお幅が異なるのは分かるのですが、それにしおも酷くないですかね?\nあんなに䜙癜があるのなら、「...」などず省略しなくおも衚瀺スペヌスあるでしょ!?\n本圓にセンスないなぁ・・・ず思わざるを埗ない。\nナヌザの怜蚌結果から隠しデヌタがあるこずが刀明しお、仕方なくずはいえ、\nいたたでマスクしお芋えなくしおいた仕様にᅵᅵᅵいお公開しようずいう姿勢は評䟡したいず思いたす。\nしかし、個人的には3぀ほど䞍満点がありたす。\n- 無駄に䜙癜を䜜り過ぎお芋づらい!(前述)\n- 抵抗は蚘茉があるのに抵抗無芖の蚘茉が無い!\n- 料理や゚リクサヌの効果を消せるようにしおくれないず最終胜力倀で比范がしづらい!\nこのあたりがケアされおきたら良くなるのでは、ず思いたす。\nギルド補䜐官でも集結呜什が䜿えるようになっおしたいたしたw\n補䜐官でも集結呜什\nはい、たたには働かせおいただきたす・・・!\nではでは。=w=ノシ", "perplexity": 17.886247713666467}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0118",
5
+ "rows_in": 46256,
6
+ "rows_dropped": 4,
7
+ "rows_out": 46252,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:09.220879+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.1,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/common_crawl_3_filtered_0119.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ba76ad6b0a9f1bd0f5a52e1a32ab82ea3b4cfbf6a0cb820721d3e339ed1b0f1f
3
+ size 110337420
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 6639, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://sacedfoundation.org/alembicate1536077.html", "content": "おいしくおおもしろい食文化! “発酵”の魅力を䌝える発酵ポヌタルサむト\n東京から䞖界ぞ。䞖界から東京ぞ。ファッションの楜しさを毎日お届け!\n文化は぀ながる。New Culture Context\n創意ある暮らしのための知恵をお届けしたす。\nクりネル読者のWEBサむト『クりネル・サロン』が始たりたした!\n猫の家政婊・猫村ねこの倧人気挫画! 最初の1コマから読めたす。\n『edit Oita』倧分を楜しむWebマガゞン\n自然ず぀ながる、私らしい時間が生たれる 庭づくりのための゚クシオヌルマガゞン\nスタむルのある家ず暮らし\nよりよい肌、よりよい毎日、そしお、笑顔。\nanan女子に響くナニヌクなオリゞナルコンテンツが満茉!本誌蚘事も配信䞭。\n毎日をアクティブにする情報満茉!\n子育おをもっず楜しく!働くママ&パパのためのお圹立ち蚘事を毎日配信䞭☆\n犏祉をたずねるクリ゚むティブマガゞン\n東京の最旬情報のほか、誌面掲茉店の怜玢やオリゞナル蚘事などを毎日曎新。\n心地よい暮らしのストヌリヌ\n毎日配信䞭! ニッポンのロヌカルは楜しい! カッコいい! 進化しおる!\nベタヌラむフの玠、毎日配信!\n矎しい暮らしをデザむンする Life Design Magazine", "perplexity": 22.04089571255041}}
2
+ {"row_index": 9161, "sha1": "5efe9279ac10b7489223c4c7559957a3d9c10d42", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0013", "kept_row_index": 7848, "reason": "exact_duplicate", "record": {"url": "https://misaquo.org/acara942750.html", "content": "## タむアップ䌁画\n蟲業で倢をかなえたい!異業皮から参入した4人の自立就蟲奮闘蚘\nコストがかかる!販路がない!難易床の高い怍物工堎で黒字化を果たし、子䌚瀟も蚭立。未来を芋据えた倧気瀟の戊略\n枩暖で自然が豊かな兵庫県䞊郡町で蟲業や地域掻動にチャレンゞしたせんか?【「あぐトリ」参加者募集䞭!】\n【むンタヌンシップ募集】”䌁業逊豚”は機械化・几垳面・芏暡がスゎむの「新3K」だった!@鹿児島\n【雄倧な景色が広がる北海道の宗谷゚リア】新芏就蟲を目指す方を党力でサポヌトしたす!\n䞊質な甘さずシャキシャキした食感。柿嫌いをもうならせる、倧磯の倧玉柿\nやたぐち蟲林持業オンラむンセミナヌ はじめの䞀歩!(11/14開催) & 山口県のむベント情報(11-12月)\n【鹿児島】九州の蟲畜産業をプロデュヌスする新しい仕事ずは!? 銀行やIT䌁業などの異業皮ずチヌムを぀くり、蟲畜産業の未来のために本気で取り組む䌁業に密着!\n【岡山県9】「モモ蟲家になる!」ず決めた倫は、劻ず赀ちゃんずずもに東京から岡山ぞ\n山あり、川あり、海あり、あたたかい人あり。豊かな自然ずずもに、移䜏支揎策も充実した高知県四䞇十町で蟲ある暮らしを詊しおみたせんか\n本気で有機蟲業を孊びたいなら熊本県を芁チェック! “皌げる”有機蟲業の厳しさずおもしろさ、サポヌト䜓制ずは!?\n日本の酪蟲界に新颚! 牛の暑熱察策、快適環境を実珟する「次䞖代閉鎖型牛舎システム」\n北海道の道倮゚リアにある日高地域で始める新しい生掻。蟲業の特城ず魅力ずは~Agriculture Of HIDAKA~\n【犏島県湯川村むベントレポヌト】湯川米ず新鮮野菜で぀ながるオンラむンむベント。4km四方の犏島県䞀小さな村にギュッず詰たった“おいしい”を堪胜!\n*NEW*\n蟲×地域創生!京郜最北端の町で、12日間の研修に参加したせんか?【手圓・補助あり】\n青色申告の仕方が分かる!『スタディ青色申告』オンラむン講座【受講生募集䞭】\n日本の田舎、犏島県西䌚接町。自然の恵みを肌で感じながら、蟲ある暮らしを䜓隓しおみたせんか【研修手圓・補助あり】\n【アルバむト募集】䜜業の効率化を意識する『垞総井䞊蟲園』。最新蟲機の操䜜ず栜培スキルが身に付く環境で野菜づくりに挑戊したせんか\nそば打ち&陶芞䜓隓から米䜜りの“基瀎”たで。1幎䞭が旬の真ん䞭、宮城県䞃ヶ宿町で蟲業䜓隓&スロヌラむフを楜しもう!【旧小孊校宿泊付き】\n【着甚レポ】腰が軜い!痛くない! 医療メヌカヌが䜜ったアシストスヌツを蟲家が䜿っおみた\n蟲業の未来を支える珟圹蟲業女子ず語り合う、蟲業の魅力ず珟堎のリアル\n䞍知火(デコポン)が糖床26床超!? 『コヌンコブミラクル』で蟲業維新が起こる!\n就蟲するなら富山!3幎で面積を9倍に拡倧した非蟲家出身の若手梚蟲家に話を聞いおみた\n## 新着蚘事\n急成長の食べチョク、生産者が広く参加しやすい環境づくりを掚進「口䞋手な生産者も応揎したい」\n日本の食料基地の物流問題 ドラむバヌ䞍足察策の「最匷のカヌド」ずは\n挫画「宮厎に移䜏した蟲家の嫁日蚘」【第186話】ズッキヌニの皮たき\n採甚は愛~自瀟分析ずアピヌルでいい出䌚いを぀くる話~\n【䌚員限定】リヌキっお長ネギずどう違う? 圧倒的に高く売れる西掋ネギ\n物流改善の打開策 「䞀貫パレチれヌション茞送」の珟状ず課題\n山梚県での就蟲に関心がある方必芋!就蟲盞談䌚を開催したす!\n北海道の新参者が目指す「八癟屋界のナニクロ」 売りは「楜しさず枩かさ」\nむオンアグリ創造がシステムの芋盎しで䜜業効率アップ、「経営を担える人材」育成ぞ\n「蟲業も働きやすさ倧切」、倚様な人材が掻躍できる職堎に 女性が掻躍する蟲業法人の挑戊", "perplexity": 33.81527761077504}}
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_3",
4
+ "shard": "common_crawl_3_filtered_0119",
5
+ "rows_in": 45875,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45873,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:09.694688+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/common_crawl_3_filtered_0120.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8399b304e8a6bacac6089538ab99fd15beef180899761d9d384b20d33c3a10da
3
+ size 109793952
outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 25140, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://kaiga.site/c0015/coronavirus-work-from-home/", "content": "○NewサむトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサむトURLはコチラ○\nWEB Shop開蚭の他、\n新入荷情報やむベント情報なども今埌はNewサむトをご芧ください。\nマむレヌゞカヌドをお持ちの方は、\nご登録枈のメヌルアドレスにおログむンしおください。\n<<各店舗のWEB Shopも随時オヌプンを予定しおおりたす>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたしたす。\n○同時に明日、WEB Shop OPENのBOLIGのNewサむトURL○\nブログなども新しいサむトで今埌は発信しおたいりたすので、 そちらをご芧ください。\nなかなかお店に足を運べないずいう方にも、\nWEB Shopで少しでもお店の雰囲気を味わっお楜しんで頂けるよう、\n随時商品を远加しおたいりたすので今埌ずもよろしくお願いいたしたす。\n○●明日からOPENのWEB Shopをご利甚の際に●○\nマむレヌゞカヌドをお持ちの方は、ご登録枈のメヌルアドレスにおログむンしおください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう颚に䜿っおいたんだろう、ずか。\nそんな事に想いを銳せお、「さぁ、私だったらどんな颚に䜿おう」\nそれが楜しい時間♪\nノィンテヌゞの魅力ですね。\nボりルが3぀入荷したした。\n割ず倧きめ。\nちょっず黄ばみが激しかったりしお。。。\nお郚屋の䞭でどう䜿いたしょう!?", "perplexity": 25.906448557307918}}
2
+ {"row_index": 34733, "sha1": "5bc27a8c2b2c40acac1a1ae68da5a3c38e6303f5", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 20910, "reason": "exact_duplicate", "record": {"url": "https://www.hirose-dental-clinic.com/wishliste/index.php?id=140596", "content": "幅広い幎代に愛される\n地域密着型の歯科医院です\nコミュニケヌションを倧切にし\n䞀人ひずりに合わせた治療提案\n患者様を笑顔にする\n痛くしない・やさしい䞁寧な治療\n皆様は倩然歯の倧切さをご存知ですか?\n<PERSON_AFFILIATION>歯科クリニックは、この倩然の歯に勝るものはないず思っおおりたす。\nそのため圓院では、なるべく「削らない・抜かない」を実珟するために予防歯科に力を入れおおりたす。たた、止むを埗ず治療をしなければならない時は、歯や歯茎に配慮した機噚を甚いるこずで痛みが少ない治療をめざしおおりたす。\n院長が介護犏祉士でもあるので院内はもちろん、蚪問蚺療においおも高霢の方・障害をお持ちの方などにも配慮をした歯科蚺療を提䟛いたしたす。\n虫歯や歯呚病の治療だけでなくその予防・定期的なメンテナンスを通しお、生涯自分の歯でかむこずが出来るように、たた、矩歯などでお困りのこずが少しず぀でも改善できるように皆様のお口のサポヌトをしおいければず考えおいたす。\n「保険蚺療」察応しおいたす。\n初蚺時の費甚は、\n健康保険3割負担適甚でおよそ\nÂ¥3,000〜¥5,000になりたす。\n圓院では、蚺療環境をクリヌンにするこずず噚具を培底的に滅菌するこずで、院内感染予防察策をしおおりたす。\nさらに、玙コップ、玙゚プロンなど可胜な限りディスポヌザブル品を䜿うこずにより院内感染予防に取り組んでおりたす。\n埓来のレントゲン画像は二次元であったため、正確な顎の骚の状態を把握するこずができたせんでしたが、CTレントゲンは、 䞉次元での画像が埗られ、埓来の平面レントゲン画像に比べ、より豊富な情報を埗る事ができたす。\n圓院の蚺療宀は、メディカルラむト゚アヌずいう医療甚の高性胜空気枅浄噚にお高粟床でクリアな環境にする事が出来たす。たた、個宀の準備もありたすので、安心しお治療を受けるこずができたす。", "perplexity": 12.245228786494772}}