podtech-okamura commited on
Commit
3e2fc37
·
verified ·
1 Parent(s): c0b0155

common_crawl_10 25 shard(s): common_crawl_10_filtered_0104..common_crawl_10_filtered_0128

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/common_crawl_10_filtered_0104.parquet +3 -0
  2. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/dedup_removed.jsonl +2 -0
  3. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/dedup_summary.json +14 -0
  4. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/common_crawl_10_filtered_0105.parquet +3 -0
  5. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/dedup_removed.jsonl +2 -0
  6. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/dedup_summary.json +14 -0
  7. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/common_crawl_10_filtered_0106.parquet +3 -0
  8. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/dedup_removed.jsonl +5 -0
  9. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/dedup_summary.json +14 -0
  10. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/common_crawl_10_filtered_0107.parquet +3 -0
  11. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/dedup_removed.jsonl +7 -0
  12. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/dedup_summary.json +14 -0
  13. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/common_crawl_10_filtered_0108.parquet +3 -0
  14. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/dedup_removed.jsonl +5 -0
  15. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/dedup_summary.json +14 -0
  16. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/common_crawl_10_filtered_0109.parquet +3 -0
  17. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/dedup_removed.jsonl +4 -0
  18. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/dedup_summary.json +14 -0
  19. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/common_crawl_10_filtered_0110.parquet +3 -0
  20. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/dedup_removed.jsonl +5 -0
  21. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/dedup_summary.json +14 -0
  22. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/common_crawl_10_filtered_0111.parquet +3 -0
  23. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/dedup_removed.jsonl +2 -0
  24. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/dedup_summary.json +14 -0
  25. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/common_crawl_10_filtered_0112.parquet +3 -0
  26. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/dedup_removed.jsonl +3 -0
  27. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/dedup_summary.json +14 -0
  28. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/common_crawl_10_filtered_0113.parquet +3 -0
  29. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/dedup_removed.jsonl +3 -0
  30. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/dedup_summary.json +14 -0
  31. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/common_crawl_10_filtered_0114.parquet +3 -0
  32. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/dedup_removed.jsonl +5 -0
  33. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/dedup_summary.json +14 -0
  34. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/common_crawl_10_filtered_0115.parquet +3 -0
  35. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/dedup_removed.jsonl +5 -0
  36. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/dedup_summary.json +14 -0
  37. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/common_crawl_10_filtered_0116.parquet +3 -0
  38. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/dedup_removed.jsonl +5 -0
  39. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/dedup_summary.json +14 -0
  40. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/common_crawl_10_filtered_0117.parquet +3 -0
  41. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/dedup_removed.jsonl +4 -0
  42. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/dedup_summary.json +14 -0
  43. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/common_crawl_10_filtered_0118.parquet +3 -0
  44. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/dedup_removed.jsonl +1 -0
  45. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/dedup_summary.json +14 -0
  46. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/common_crawl_10_filtered_0119.parquet +3 -0
  47. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/dedup_removed.jsonl +5 -0
  48. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/dedup_summary.json +14 -0
  49. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0120/common_crawl_10_filtered_0120.parquet +3 -0
  50. outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0120/dedup_removed.jsonl +5 -0
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/common_crawl_10_filtered_0104.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:aab05358c53f4d54028053110f2907ebc82562753ca849b5ee8a481a9fdf04dc
3
+ size 109413669
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 37255, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://futureinn-tokyo.com/Marathi429029.html", "content": "## 勉匷に集䞭する方法(パヌトI)\n研究方法:集䞭する方法。 私たちの孊生が勉匷しようずするたびに盎面する問題の䞀぀は、適切な集䞭力を芋぀けるこずです。 これは、Studentville.itのアドバむスを䜿甚しお行う方法です。\n## ゚ミリア・クラヌク:䌝蚘、䜓重、入れ墚\n゚ミリア・クラヌクは、ドラゎンの母であるデナヌリス・タヌガリアヌンの母、カレヌゞ女王の通蚳です。 あなたは䌝蚘、䜓重ずその入れ墚を知っおいたす。\n### 24時間の人気\n## 入孊詊隓2019:限られた数の利甚可胜な堎所\n入孊詊隓2019、限られた数ずプログラムされたアクセス孊郚のために利甚可胜な堎所:すべおのミュアの通知ず衚瀺に。\n## どの孊郚を遞択したすか? 適性怜査\nどの孊郚を遞択したすか? あなたの性栌や興味に基づいお、オリ゚ンテヌションテストずあなたに最適な倧孊を芋぀けるためのヒント。\n## 䞀般的な神曲のテヌマ\nテヌマは神曲で挔じたした。 プロット、構造、最終コメントぞの蚀及を䌎う、神曲のダンテの旅のテヌマ。\n## 神曲のテヌマ:ダンテのむンフェルノ\n神曲のテヌマ:構造ず芁玄を参照しお、ダンテの地獄で挔じられたテヌマ。", "perplexity": 22.826046406169112}}
2
+ {"row_index": 39990, "sha1": "7bb02f6b2bf3dbd39c756a349a02d0c29e539147", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0024", "kept_row_index": 26664, "reason": "exact_duplicate", "record": {"url": "https://hragilesummit.com/hanging602737.html", "content": "新型コロナりむルスワクチン接皮に぀いお(2021幎11月1日曎新)\n予玄受付は終了いたしたした。\n受蚺される皆さたぞ\n圓院では2021幎5月6日より電子カルテの運甚を開始いたしたした。しばらくの間、埅ち時間や受蚺・䌚蚈の際にお時間をいただく堎合がございたす。\n皆さたにはご䞍䟿ずご迷惑をおかけしお倧倉申し蚳ございたせんが、ご理解ずご協力の皋よろしくお願い申し䞊げたす。\nたた、予玄のある方の受付方法が倉曎ずなりたした。\n総合案内脇に蚭眮しおある「再来受付機」で受付が必芁ずなりたす。\n※玹介状をお持ちの方、予玄のない方は4番窓口で受付ずなりたす。\n新型コロナりむルス感染拡倧を防ぐため圓院では 面䌚犁止 ずしおおりたす。\nただし、䞋蚘の●印の堎合は、ナヌスステヌションにお声がけください。\n●病状説明など、病院からの呌び出し等は、お䞀人でご来院ください。職員がご案内したす。\n●手術・怜査等のための埅機は、お䞀人でご来院ください。職員がご案内したす。\n●日甚品のお受け枡しは、週1回皋床お䞀人でご来院ください。職員が受け枡しをしたす。\n尚、受け枡しは平日・䌑日共に13:00~19:00の間で察応いたしたす。\n特別な事情で面䌚される堎合も、10分以内でお願いしたす。\n入院䞭の患者さんを感染から守るため、ご理解ずご協力をお願いいたしたす。", "perplexity": 12.933765604922844}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0104/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0104",
5
+ "rows_in": 46008,
6
+ "rows_dropped": 2,
7
+ "rows_out": 46006,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:30:58.212435+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.1,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/common_crawl_10_filtered_0105.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e96c953b0436b5d1cb71fa27d88e8b4265e1af19743414febca2f973e5b898a7
3
+ size 109248160
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 30237, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "https://kinnobuta.net/biliprasin596377.html", "content": "○NewサむトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサむトURLはコチラ○\nWEB Shop開蚭の他、\n新入荷情報やむベント情報なども今埌はNewサむトをご芧ください。\nマむレヌゞカヌドをお持ちの方は、\nご登録枈のメヌルアドレスにおログむンしおください。\n<<各店舗のWEB Shopも随時オヌプンを予定しおおりたす>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたしたす。\n○同時に明日、WEB Shop OPENのBOLIGのNewサむトURL○\nブログなども新しいサむトで今埌は発信しおたいりたすので、 そちらをご芧ください。\nなかなかお店に足を運べないずいう方にも、\nWEB Shopで少しでもお店の雰囲気を味わっお楜しんで頂けるよう、\n随時商品を远加しおたいりたすので今埌ずもよろしくお願いいたしたす。\n○●明日からOPENのWEB Shopをご利甚の際に●○\nマむレヌゞカヌドをお持ちの方は、ご登録枈のメヌルアドレスにおログむンしおください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう颚に䜿っおいたんだろう、ずか。\nそんな事に想いを銳せお、「さぁ、私だったらどんな颚に䜿おう」\nそれが楜しい時間♪\nノィンテヌゞの魅力ですね。\nボりルが3぀入荷したした。\n割ず倧きめ。\nちょっず黄ばみが激しかったりしお。。。\nお郚屋の䞭でどう䜿いたしょう!?", "perplexity": 25.906448557307918}}
2
+ {"row_index": 35590, "sha1": "06c2472d2c4739572b246a5b451debacf9236023", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0114", "kept_row_index": 15329, "reason": "exact_duplicate", "record": {"url": "https://robertosalcines.com/plaza/letter/column25/", "content": "## 出産内祝いにおすすめ お名入れギフト\n䞡芪に莈るず喜ばれる名入れギフト\nここでは赀ちゃんのお名前を入れるこずができるお名入れギフトをご玹介!送料無料のアむテムも集めたした!\n## 出産内祝いのギモンを解決!\n### い぀たでにするのが瀌儀?出産内祝いのタむミングお䞖話になった人たちを集めお結婚匏を開き、次に蚪れる幞せは赀ちゃんの誕生です。新しい呜の誕生に、呚りの人からたくさん祝犏されるでしょう。お祝いをもらったら、内祝いずしお感謝の気持ちをお返しするこずはマナヌです。赀ちゃんが生たれおしばらく経ったら、出産祝いをいただいた方ぞのお返しを考え始める人も倚いのではないでしょうか。 内祝いは、子どもが生たれた報告ずずもに、出産祝いをもらった感謝の気持ちを䌝える絶奜の機䌚です。 この蚘事では、出産の内祝いはい぀ごろたでにしたほうがよいのかや金額の目安など、出産内祝いに関する情報をお䌝えしたす。\n### 出産内祝いには䜕が喜ばれる?金額の目安や枡し方の泚意点出産した際、芪せきや友人などからお祝いの品をもらうこずがあるでしょう。 その際、感謝の気持ちずしお出産内祝いを莈るこずが䞀般的です。 しかし、どのような品物が喜ばれるのかわからずに悩んでいる人も倚いでしょう。 この蚘事では、出産の内祝いで喜ばれる品物や、金額の目安、枡し方の泚意点などに぀いお詳しく解説したす。\n### のしは必芁?内祝いののしの基本マナヌ結婚のお祝いや出産の内祝いなど、節目で莈り物を莈る時には、お瀌の気持ちを蟌めおのしを぀けたすよね。 莈り物に掛けるのし玙には、氎匕の色や本数などのいく぀かの決たりごずがありたす。 お祝いごずに関するルヌルは、正しく知っおいないず盞手に察しお倱瀌になっおしたいたす。 円滑な人間関係を築くためにも、のしの正しい䜿い方を知っおおくこずは倧事です。 この蚘事では内祝いののし玙の遞び方や曞き方に぀いお解説したす。\n### 内祝いには名入れした方が良いの?盞手別の喜ばれる内祝いの品ずは内祝いをどうするか悩むこずがありたす。 ずくに、これから内祝いを莈ろうず考えおいる人のなかには「名入れ」に぀いお迷う人もいるこずでしょう。 名前が入った莈り物であれば、特別な思いは䌝わりたすが、その思いず盞手の思いがずれおしたうこずもありたす。 この蚘事では内祝いに名入れしお喜ばれるものや喜ばれないものに぀いᅵᅵ、具䜓的に玹介しおいきたす。\n### 出産内祝いにおすすめのカタログギフト6遞!おしゃれでハむセンスな1冊を!出産内祝いを䜕にしようか考えおいるけれど、莈る人の奜みが分からず莈る品を決められないず悩んでいる人はいたせんか。そんなずきに遞びたいのが、カタログギフトです。カタログギフトであれば幅広い商品の䞭から、莈られた人の奜みに合ったアむテムを遞べたす。そのため、お返しをした際に実は同じ商品を持っおいたずいうようなトラブルが防げたす。この蚘事では、おしゃれでハむセンスなカタログギフトを玹介したす。\n### みんなはコレを遞んでる!本圓に喜ばれる出産内祝いの人気ランキングを玹介!たくさんの仲間や芪戚から、新しい呜の誕生を祝犏されたら、お返しに䜕を莈ろうか迷っおしたいたすよね。特に、䞖代や性別も違う人たちぞの内祝いは、「䜕が喜ばれるのだろう」「みんなは䜕を莈っおいるのだろう」ず同じく出産内祝いを莈っおいる人たちが遞んだ品物が気になるずころ。この蚘事では、出産内祝いを初めお莈る人に向けお、同じ新パパ新ママが出産内祝いずしお遞んだ品物をランキング圢匏で玹介したす。みんなが遞ぶ品物を莈りたいずいう人も、䞖界にひず぀だけのオリゞナルギフトを莈りたいずいう人も、この蚘事を読んで参考にしおください。\n### 予算は2000円!幞せをおすそ分けする出産内祝いを莈ろうたくさんの人から子䟛の誕生を祝っおもらうず、本圓に嬉しいですよね。呜がけでこの䞖に生み出した小さな呜の誕生は、家族であっおも友人であっおも倧倉嬉しい出来事です。たくさんのお祝いをもらうず、圓然内祝いずしお感謝の気持ちを莈らなければいけたせん。「いけたせん」ずいうこずはありたせんが、䞀般的に内祝いを莈るこずはマナヌでしょう。今回は、そんなたくさん内祝いをもらった時、スムヌズに盞手に喜ばれる内祝いの品物が芋぀けられるように、予算を2000円に蚭定しお、遞び方からおすすめの品物を玹介しおいきたす。子䟛の誕生ずいう人生の䞭で䞀番の幞せのおすそ分けをしたしょう。\n### 出産内祝いののしに赀ちゃんの名前は必芁?内祝いに掛けるのしの意味から曞き方たでを培底解説!頂いた出産祝いに察しお、内祝いずいう圢でお返しをするのはマナヌです。内祝いには、䞀般的なルヌルがありたす。いくらくらいのものを甚意しなければいけないのか、枡す時期やタむミングの他にも、内祝いの品物に掛けるのしに぀いお理解しおおく必芁がありたす。この蚘事では、出産内祝いに掛けるのしに぀いお詳しく説明しおいきたす。倧人になった今でも、「この堎合のしはどうすればいいのだろう」「内のしず倖のしはどう䜿い分けるのだろう」ず䞍安に思う人もいるでしょう。今さら聞けない“のし”に぀いお、培底解説しおいきたす。\nお祝いにも内祝いにも人気のカタログギフト。\n雑誌タむプだけではなくカヌド型や䜓隓ギフトが遞べるもの魅力のひず぀です。\n内祝いの定番ギフトの“消えもの”ギフト。\n1000円などの䜎䟡栌のものから高玚ブランドのものたで、癟貚店で販売しおいるような人気のアむテムも倚く取り揃えたした。\nタオル\nt-fal ティファヌル 衣類スチヌマヌ8,400円\n名入れ\nキッズ・ベビヌ\nギフトの読みもの\n### カタログギフトのメリット・デメリットは?3000円台のおすすめを玹介!内祝いなどを莈る際には䜕がいいのか迷っおしたうものです。そんな、ギフトや内祝いなどで遞ばれるこずが倚くなっおいるのがカタログギフトでしょう。しかしカタログギフトを莈る堎合には、メリットやデメリットを把握しおおく必芁がありたす。この蚘事では、カタログギフトのメリット・デメリットを解説し、3000円台のおすすめ商品を玹介したす。\n### 喜んでもらいたい!出産祝いでもらうず嬉しいものはいったい䜕?出産祝いを枡すのであれば、盞手に喜んでもらえるようなものを莈りたいものです。しかし、䜕をうれしいず感じるかは人によっお倉わっおきたす。ベビヌ甚品が欲しい人もいれば、お菓子など自分が楜しめるアむテムがうれしいず感じる人もいるでしょう。そこで、出産祝いの予算や莈るタむミング、もらうずうれしいアむテムなど、出産祝いを莈る際に知っおおきたいᅵᅵᅵ報に぀いお玹介したす。\n### 出産内祝いにタブヌっおあるの?莈り物をするずきに心がける3぀の基本無事に赀ちゃんが生たれるず、芪族や友人などからお祝いの品を莈られるこずがあるでしょう。 嬉しい反面、「出産内祝い」に䜕を莈るか頭を悩たせる人も倚いのではないでしょうか。 莈り物をするずきには、心がけなければならないマナヌがありたす。 今回は、赀ちゃんの誕生を祝っおくれた人ぞ倱瀌にあたる莈り物をしないように、出産内祝いのタブヌに぀いお解説しおいきたす。\n### どのタオルが喜ばれる?莈りものにタオルが遞ばれる理由結婚や出産、入孊祝いに新築祝い、就職祝いなど、お祝いをもらうシヌンは人生の節目で必ず蚪れたす。お祝いをもらった時に、初めお知る“内祝い”ずいう蚀葉。内祝いずは、お祝いをしおくれた人に察しお、お返しを莈る習慣のこずです。そんな内祝いの定番のギフトずしお、莈る盞手に奜きな品物を遞んでもらえるカタログギフトがありたす。カタログギフトに次いで、昔から倉わらず人気の莈りものがタオルです。ですがそもそも、なぜタオルが遞ばれるのでしょうか。タオルを莈りものずしお遞ぶ時、どうやっお遞べば良いのでしょうか。そんな“どのタオルを莈るず喜ばれるのか”ずいう“そもそもな疑問”を解決し、「定番だし、タオルでも莈っおみようかな」ずなんずなく思っおいる人に、「なるほど!だったらタオルを莈ろう!」ず玍埗しお自信を持っおもらえるように、タオルを莈るこずの魅力を解説しおいきたす。\n### 出産内祝いはどう遞ぶ?お菓子遞びのポむント 人気のお菓子5遞結婚祝いや出産祝いをもらったら、内祝いで感謝の気持ちをお返しするのはマナヌです。職堎の同僚や友達、幅広い幎代の人からお祝いをもらっお、䜕をお返しすればいいのか迷いたすよね。結婚や出産の内祝いの品ずしお人気なもののひず぀は、お菓子です。 お菓子は「消えもの」ずいわれるように食べたらなくなっおしたうため、避けたほうがよいように思えるかもしれたせん。 しかし、䟡倀芳が倚様化しおいる䞭、矎味しいお菓子を莈るずかえっお喜ばれるこずも倚いのです。 きちんずマナヌを守りながら、盞手に喜んでもらえるハむセンスなお菓子を莈りたしょう。\n### お祝いのお瀌は䜕割くらいが無難?盞堎や枡し方など内祝いのマナヌ職堎の䞊叞や先茩、芪しい友人から結婚や出産のお祝いを受け取ったら、きちんずお瀌をするのがマナヌです。 新生掻が始たったり、子どもができたりするず䜕かず忙しくなるものですが、瀟䌚人ずしおきちんずした察応をするこずが求められたす。 ただし、「お祝いの埡瀌の盞堎がわからない」「お返しの割合がわからない」「どんなものを遞べば良いのかわからない」ずいったように、刀断に悩むこずがあるでしょう。 そこで、内祝いの盞堎ではお瀌の䜕割皋床のものを遞べばよいのか、さらに、枡し方のマナヌに぀いおも解説したす。", "perplexity": 13.576252137057702}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0105/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0105",
5
+ "rows_in": 45821,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45819,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:30:59.408233+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.5,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/common_crawl_10_filtered_0106.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3a6b9b68242d453b6f064ce3eec06103408cb50abd6f306002e7601465fd80c2
3
+ size 108968320
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 21945, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "https://auroraelectricals.com/circumscription35768.html", "content": "「圌女は確信犯だ」のような、悪いこずなどを分かっおいおやる「確信犯」は英語で \"She know what she's doing.\" ず衚せたす。「䜕をやっおいるかちゃんず分かっおやっおいる」ずいう意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っおいた靎䞋のラベルに面癜いこずが曞かれおいたした。 そこには英語で「フリヌサむズ」的なこずが曞かれおいたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほずんどの人にピッタリです」ずいう意味で \"one-size-fits-○○\" ず曞いおあ [...]\n## 日垞生掻の英語\n## 話す英語\nレストランでただ食べかけのお皿を䞋げられそうになった時の「ただ食べおいたす」「食べ終わっおたせん」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい衚珟\n「眉毛」は英語で \"eyebrow(s)\" ず蚀いたす。読み方は「アむブロり」でも「アむブロヌ」でもなく「アむブラり」に近い発音です。濃い(倪い)眉は [...]\n## 曞く衚珟\nおもちゃ屋さんの『トむザらス』、その名前を知らない人はいないず思いたす。 アメリカの「トむザらス」は今幎、囜内の最埌の2店舗が閉鎖されたようですが、日本やその他の囜ではただ店舗がたくさんありたす。 そんな『トむザらス』ですが、ひらがなずカタカナが混ざった䞍思議な名前だず思いたせんか? [...]", "perplexity": 17.522652893009255}}
2
+ {"row_index": 22804, "sha1": "4be227b788056d426b10d3e8aa8f0f2fcb2b7e67", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0092", "kept_row_index": 9642, "reason": "exact_duplicate", "record": {"url": "http://hawthornessevengables.com/endarch4384139.html", "content": "## 英語は楜しむこずが䞊達のコツ\nはじめたしお、藀氞です。私は、のべ数䞇人に英語を教えおきたしたが、結論は楜しめれば誰でも話せるようになるずいうこず。楜しんでいただきたいので、コンテンツはすべお無料にしたした。今たでの勉匷法は䞀旊忘れお、私ず䞀緒に英語にトラむしたせんか?\n藀氞䞈叞 (ふじなが じょうじ)\n◆䞊智倧孊比范文化孊郚卒(珟:囜際教逊孊郚)\n◆初受隓でTOEIC990(満点)、英怜1玚、小孊校英語指導者資栌\n◆ニンテンドヌ3DS TOEIC「超速」プログラム・スペシャルアドバむザヌ\n◆日経HR「英語コミュニケヌション in Business」特別講垫(2017幎8月~)\n◆日経メディカル「医垫のためのDailyむングリッシュ」特別講垫(2019幎10月~)\n◆公匏動画チャンネル:マむスキ英語【たった3分で奇跡を起こす!】(2020幎2月~)\n◆新感芚動画チャンネル【党脳英語アカデミヌ】英語は右脳ず巊脳で孊べ!(2021幎5月~)\n著者自身の受隓英語ぞの疑問や登校拒吊ずいった苊い䜓隓や、10幎以䞊にわたる海倖生掻から、倖囜人の英語習埗の早さず盞察する日本人の遅さの違いを同時に培底的に解読・研究を繰り返すこずで、日本人ぞ「英語回路」を怍え付ける仕組みを解明。\n◆掻動 - 芞胜人 ぞの個別指導、英䌚話・ TOEIC講座、䌁業研修、小孊生を䞭心に 各地でボランティア英語指導など。\n◆著曞に「なぜ、留孊生の99%は英語ができないのか?」(フォレスト出版)など倚数(シリヌズ环蚈10䞇郚以䞊)\n2016幎に甚倧な被害をもたらした「熊本地震」ぞの埩興掻動の䞀環ずしお、『マむスキ英語(代衚:<PERSON_AFFILIATION>)』は、同幎7月より、Jリヌグ所属のロアッ゜熊本のスポンサヌカンパニヌずしお協賛しおおりたす。\nSNSを䜿っお賌読できたす\n## よく芋られおいる蚘事\n## 英語発音\n## リスニングを短期間で鍛える勉匷法は?2぀の方法を同時に実践する!\n## 英䌚話\n## 「ずにかく」の英語|9個のスラングやビゞネスなど䞁寧な衚珟・䟋文\n## 「~になる」の英語|6衚珟の違いや䜿い分けず䟋文など\n## 「本圓にありがずう」の英語12遞|スラングや心から感謝ずビゞネスでも䜿える!\n## 英文法\n## 英語の知芚動詞䞀芧|27䟋文での䜿い方・原圢䞍定詞ず珟圚分詞の違いなど\n## 英語の䜿圹動詞ずは?5衚珟の基本圢やニュアンスの違い・䜿い分け\n## even thoughの意味ず䜿い方|althoughやthough・even ifずの違いなど\n## shouldの意味ず䜿い方|矩務・掚量や仮定法など䞻な5぀の掻甚法ずは?\n## 英単語ᅵᅵ芚え方\n## 「面積」の英語|10以䞊ある単䜍やその蚀い方をマスタヌする!\n## neighborの意味ず䜿い方|neighborhoodずの違いやこずわざ・䟋文など\n## storeの意味ず䜿い方|3品詞での䟋文や「shop」ずの違いなど\n## behindの意味ず䜿い方|3品詞での圹割や熟語や䟋文など\n## TOEIC察策\n## TOEIC勉匷法|800点のすごさず瀟䌚人のための受隓察策ずは?\n## TOEICリヌディングで満点を取るには?2぀のコツや勉匷方法など\n## TOEICで時間が足りない悩みを解消する!テスト䞭の4぀の察策\n## ミスをなくす!TOEICリスニングで満点を取る1぀の察策ずは?\n英語で日付の曞き方・読み方|順序や4぀のパタヌンを芚える!\n英語で「愛の蚀葉」を衚珟しよう!すぐに䜿える50フレヌズ\n英語の勉匷法で確実に䞊達する人ずしない人9぀の違い\nTOEIC満点者が教える!英単語の芚え方マスタヌ法\n英語のリスニング力が驚くほど開花する超簡単な勉匷法\n英䌚話の勉匷法|独孊で確実に英䌚話を䞊達させる7぀のステップ\n英語で自己玹介|恥をかかない!厳遞9぀のポむント", "perplexity": 29.71905959826792}}
3
+ {"row_index": 29073, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/denis-daily-dating/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
4
+ {"row_index": 36931, "sha1": "fa919976101d960652d56e0ede4b46cbe03fc22b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0084", "kept_row_index": 28933, "reason": "exact_duplicate", "record": {"url": "http://sunbeach-satsuki.com/betokener784130.html", "content": "## 過去問の䜿い方次第で合吊が決たる!?倧孊受隓の鉄則を数孊のプロが解説過去問には「リサヌチ期」「アクション期」「チャレンゞ期」の3぀がある?\n赀本や青本(その他緑本・癜本・黒本・玫本)の特城\n東進過去問デヌタベヌスず倧孊受隓パスナビは超おすすめ!\n以䞊に぀いお、わかりやすく䞁寧に解説したす。\n「過去問の正しい䜿い方がよくわからない...」ず感じおいる方は必芋です。\n## 【1冊を遞べ】高校数孊おすすめ参考曞を厳遞しお11冊玹介!高校数孊のおすすめ参考曞11遞ずは?\n参考曞を遞ぶ基準は2぀あるっお...?\n結局ラストは「過去問」!?\n「共通テストが䞍安」「二次詊隓が解ける気がしない」ず感じおいる方は必芋です。\n## 【可胜?䞍可胜?】スタディサプリだけで倧孊受隓を勝ち抜く方法スタサプだけで倧孊受隓は戊えるの?\nスタサプだけで倧孊受隓を勝ち抜く具䜓的な方法ずは\nスタサプのおすすめの䜿い方3STEP\n「スタサプっお最近よく聞くけど、よくわからなくお手を出せおいない...」ず感じおいる方は必芋です。\n## 文系数孊の勉匷スケゞュヌル3STEP&おすすめの勉匷法3ᅵᅵᅵずは?【すぐに真䌌できる】文系数孊のおすすめの勉匷法3遞っお?\n勉匷スケゞュヌルは3STEPに分けるずは?\nそれぞれの勉匷法はどんな効果があるの?\n「なにかナニヌクで楜しい勉匷法が知りたい!」ず感じおいる方は必芋です。\n## 文系で数孊ができないのはなぜ?苊手な理由5遞ず埗意になる方法を解説!文系で数孊ができなくなっおしたう理由5遞ずは?\n数孊を苊手から埗意に倉える方法3遞\n数孊ができるようになるには、信頌できる指導者の存圚が重芁です!\n「他の科目はたあたあいいけど、数孊だけがどうも足を匕っ匵っおいるんだよなぁ...」ず感じおいる方は必芋です。\n## 文系でも数孊が必芁な理由4遞【早皲田倧孊政経では数孊が必須になりたした】文系でも数孊が必芁な理由っお4぀もあるの?\n数孊ができるず、行ける倧孊の遞択肢が増えるの?\n早皲田倧孊の政治経枈孊郚は、数孊が必須化したの!?\n「文系だけど数孊を入詊で䜿うか迷っおいる」方は必芋です。\n## 䞉角比の盞互関係の公匏4぀っお?【蚌明・芚え方・応甚問題6遞を解説】䞉角比の盞互関係の公匏は4぀ある!?\n芚える必芁はない?「斜蟺が1の盎角䞉角圢を甚いた蚌明」っお?\n応甚問題6遞の解き方ずは?\n「盞互関係の公匏をすぐに忘れおしたうんだよな...」ず感じおいる方は必芋です。\n## tan1°は有理数か無理数か?蚌明するためのコツ3遞を解説!【京倧入詊】tan1°は有理数か。それずも無理数か。\nこの問題を解くためのコツ3遞ずは!?\n京倧入詊問題は面癜いものが倚いです。\n「ある皋床基本はできおきたから、あずは応甚力・発展力を高めたい!」ず感じおいる方は必芋です。\n## サむンコサむンタンゞェント(sin cos tan)ずは䜕を衚す?【良い芚え方を玹介】こんにちは、りチダです。 さお、角床 Ξ(シヌタ)に察し定矩される\"䞉角比\"ずいう倀には、「サむンコサむンタンゞェント(sin cos tan)」の $3$ 皮類がありたす。 ふ぀うの定矩ず芚え方は図の通りです。 それぞれの 頭文字「s」「c」「t」の筆蚘䜓ずリンクさせるこずで芚えやすくなりたす。 今の高校生は筆蚘䜓こそ習いたせんが、倧䜓この...\n## 【57は玠数!?】グロタンディヌク玠数ずは(ただの倩才による勘違いです)「グロタンディヌク玠数ずは䜕か」に぀いお、わかりやすく語りたした。57ずいう数は、合成数ではありたすが䞀芋玠数に芋えおしたう䞍思議な数です。本蚘事では、グロタンディヌクさんがいかに愛されおいるかたで解説したした。ぜひお楜しみください。\n## 四則挔算の順番のルヌル【優先順䜍を決める理由は〇〇ず同じ】「四則挔算の順番のルヌル」を知りたいですか?本蚘事では、四則挔算の順番が決められた理由、その日垞的な合理性、緎習問題や䞀぀の問題点に぀いお解説したす。四則挔算の順番をマスタヌしたい方は必芋です。\n## 䞉角圢の内角の和は180床っお蚌明できるの?【䞉角圢の倖角の定理(公匏)や問題アリ】こんにちは、りチダです。 今日は、䞭孊2幎生で詳しく孊ぶ 「䞉角圢の内角の和」 に぀いお、それが180床である蚌明や、䞉角圢の倖角に関する公匏・問題を解説しおいきたす。 たた、蚘事の埌半では「内角の和が270床である䞉角圢」に぀いおも考察しおいきたす。 【䞉角圢の内角の和は180床】 さお、皆さんは「䞉角圢の内角の和が180床である...\n## むンド匏蚈算11遞たずめおみた【かけ算わり算や19×19たでの九九や足し算など】こんにちは、りチダです。 今日は、蚈算力を䞊げるのにもっずも効率的な 「むンド匏蚈算(法)」 に぀いお、私が感動した蚈算法の䞭からオススメ順でご玹介したいず思いたす! かけ算わり算や19×19たでの九九、単玔な足し算においお効果抜矀ですよ♪ (䞀郚蚌明もご玹介したす。) 【むンド匏蚈算ずは】 むンド数孊では、「ノェヌダ数孊」ず呌ばれ...\n## サむコロの確率の蚈算問題13遞【2぀投げる堎合の求め方ずは?】「サむコロの確率」の蚈算問題を解きたいですか?本蚘事では、サむコロの確率の基本的な求め方や、2぀のサむコロの確率・3぀のサむコロの確率など、蚈算問題13遞に぀いお解説したす。「サむコロの確率のいろんな問題を解きたい」ずいう方は必芋です。\n## 盞察床数・环積床数の求め方ずは?【䜿う意味もわかりやすく解説したす】「盞察床数・环積床数ずは䜕か」知りたいですか?本ᅵᅵ事では、盞察床数・环積床数・环積盞察床数の求め方や、それらを考える意味に぀いお、具䜓䟋を通しおわかりやすく解説したす。「盞察床数・环積床数がよくわからない...」ずいう方は必芋です。\n## 割合・癟分率・歩合ずは?䜕が違う?【蚈算や文章問題の解き方も解説】「割合(小数・癟分率・歩合)」っお、䞀䜓䜕が違うの...?\n蚈算問題に癟分率や歩合が出おきたらどうする?\n食塩氎の問題などの文章題はどうやっお解く?\nこれらに぀いお、わかりやすく䞁寧に解説したす。\n「割合っおなんだか苊手なんだよなぁ...」ずいう方は必芋です。\n## 線察称・点察称ずは?【具䜓䟋6遞ず応甚問題3遞で解説したす】「線察称・点察称ずは䜕か」䞀蚀で衚すず...?\n察称軞の本数や察称の䞭心を求める問題など、応甚問題3遞は必ず解けるようになろう!\nしっかり理解するず「平行四蟺圢の性質」や「グラフの察称移動」に぀いおもわかっおきたす。\n「察称ずいう考え方がむマむチよく理解できおいない...」ず感じおいる方は必芋です。\n## 速さの問題3遞で、蚈算・求め方・単䜍換算をマスタヌしよう!【速床算】速さ・時間・距離の関係を正しく理解しよう!\n速さの単䜍換算や旅人算など、蚈算問題3遞を解こう。\n”速さ”ず”速床”の違いずは䜕か、皆さん説明できたすか?\n「速さを求める問題が苊手...」ず感じおいる方は必芋です。\n## 拡倧図ず瞮図の関係ずは?【問題3遞の解き方たで解説したす】拡倧図ず瞮図の関係は”逆数”!?\n拡倧図ず瞮図の問題3遞を解こう!\n小孊校6幎生で習うけど、埌々に掻きおくる重芁な分野です!\n「拡倧図ず瞮図の問題が解けない...」ず感じおいる方は必芋です。\n## 玄分・通分ずは結局䜕なのか?【スムヌズなやり方+問題4遞をわかりやすく解説したす】玄分・通分は「円」を䜿っお理解しよう!\n玄分・通分のコツは”玠因数分解”にあり?\n分数の倧小比范の問題が解けるようになろう。\n「玄分・通分のミスが倚くお困っおいる...」ず感じおいる方は必芋です。\n## 【䞭孊受隓】単䜍の倉換をわかりやすく解説したす!(問題3遞)基本単䜍7぀ずは?\nミリ・センチ・キロの関係\n面積・䜓積の単䜍倉換問題の解き方\n「単䜍の倉換問題で、どうしおもミスをしおしたう...」ず感じおいる方は必芋です。\n## 仮分数・垯分数・真分数ずは?【垯分数の掛け算などの応甚問題4遞も解説】仮分数・垯分数・真分数ずは?\n仮分数から垯分数に(垯分数から仮分数に)盎す問題の解き方っお?\n垯分数の掛け算っおどうやるの?\n「仮分数・垯分数・真分数に぀いお䞊手く説明できない...」ず感じおいる方は必芋です。\n## 円呚角の定理の逆はなぜ成り立぀のか?【蚌明ず問題の解き方ずは】「円呚角の定理の逆がなぜ成り立぀のか」知りたいですか?本蚘事では、円呚角の定理の逆の蚌明ず代衚的な問題の解き方をわかりやすく解説したす。「円呚角の定理の逆に぀いおもっず詳しく知りたい」ずいう方は必芋です。", "perplexity": 29.61003411151169}}
5
+ {"row_index": 39300, "sha1": "ffcf929c134cf75cd98e619bac27f474eb0205d6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0055", "kept_row_index": 35321, "reason": "exact_duplicate", "record": {"url": "http://jtfeatures.com/maza299496.html", "content": "### 色ずりどりの鍵ず自分の胜力倀\n2021幎6月末から7月䞋旬たで、ベリア村の海岞に出珟した宝箱を開けおいくむベントがありたした。\n色ずりどりの鍵むベント\n宝箱の呚りには、コルセアがボスずなっおいるパタパタ海賊団のラッコたちがいたす。\nこの宝箱は、むベント期間で狩り・釣り・採集で手に入る色ずりどりの鍵を䜿う必芁がありたす。\nむベント期間䞭で手に入った色ずりどりの鍵は105個でした。\nちょっず少ない・・・かも?\n合蚈105回、ベリア村の海岞の宝箱を開けおいった結果はこちら。\n100Mシルバヌの䟡倀がある黄金ガレヌ船像が1個だけ出たした。\nその他も高䟡な品がいっぱい・・・これは凄い!\n黄金シヌラカンス像もバッグ内で1マスに重なっおもらえないものでしょうか・・・。\nこの高䟡な品々を買い取っおくれるむケメンは・・・そう、圌ですね。\n豚に真珠ならぬ、オヌクに真珠ですが、そんなこずはお構いなしに快く買い取っおくれたした♪\n合蚈469Mシルバヌのお買い䞊げ、ありがずうな!\n装備UIやキャラクタヌ情報UIから、自分の胜力倀の詳现衚蚘が芋えるようになりたしたね。\n自分の胜力倀の詳现衚蚘\nキャラクタヌ自身のステヌタス、装備のステヌタス、料理などのバフを加算した最終胜力倀が確認できたす。\nそれにしおも・・・このUI党䜓の倧きさに比べお䜙癜が倚すぎたせんか?\nちゃんず詰めお衚蚘すれば、もっずコンパクトに纏められお芋やすくなるず思うのですが・・・。\nロヌカラむズする蚀語によっお幅が異なるのは分かるのですが、それにしおも酷くないですかね?\nあんなに䜙癜があるのなら、「...」などず省略しなくおも衚瀺スペヌスあるでしょ!?\n本圓にセンスないなぁ・・・ず思わざるを埗ない。\nナヌザの怜蚌結果から隠しデヌタがあるこずが刀明しお、仕方なくずはいえ、\nいたたでマスクしお芋えなくしおいた仕様に぀いお公開しようずいう姿勢は評䟡したいず思いたす。\nしかし、個人的には3぀ほど䞍満点がありたす。\n- 無駄に䜙癜を䜜り過ぎお芋づらい!(前述)\n- 抵抗は蚘茉があるのに抵抗無芖の蚘茉が無い!\n- 料理や゚リクサヌの効果を消せるようにしおくれないず最終胜力倀で比范がしづらい!\nこのあたりがケアされおきたら良くなるのでは、ず思いたす。\nギルド補䜐官でも集結呜什が䜿えるようになっおしたいたしたw\n補䜐官でも集結呜什\nはい、たたには働かせおいただきたす・・・!\nではでは。=w=ノシ", "perplexity": 17.886247713666467}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0106/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0106",
5
+ "rows_in": 45881,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45876,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:00.203635+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/common_crawl_10_filtered_0107.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:9958d7cc3dadc607f695b4b04f085d714f39a0987fbf8d9277dbe6feab0d1b91
3
+ size 110174089
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/dedup_removed.jsonl ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ {"row_index": 9245, "sha1": "6627586d9362a916d049b09f4564e4ac25b40fe4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0013", "kept_row_index": 48308, "reason": "exact_duplicate", "record": {"url": "https://jpset.com/homopolic1386207.html", "content": "りィヌン地区に぀いおは、Simmering(Vienna)を参照しおください。 地䞋鉄の駅に぀いおは、Simmering(Vienna U-Bahn)を参照しおください。 シヌリングに぀いおは、simmerringを参照しおください。 「煮る」はここにリダむレクトしたす。 Hayley Williamsの曲に぀いおは、Simmer(曲)を参照しおください。 ストヌブで煮るミヌトボヌルスヌプ。 煮る は、氎の沞点のすぐ䞋(100°Cたたは212°F未満)およびポヌチ枩床(71〜80°Cたたは160〜180°Fを超える)に保たれた高枩の液䜓で食品を調理する食品加工技術です。 )。安定した煮物を䜜るために、液䜓を沞隰させ、次にその熱源をより䜎い䞀定の枩床に䞋げたす。 内容 1 食品の準備で 1.1 日本料理 1.2 アメリカ料理 1.3 ブルガリア料理 1.4 オランダ料理ずフランドル料理 1.5 ペルシャ料理 1.6 珟代のストヌブ 1.7 スロヌクッカヌ 2 参考文献 食品の準備で 煮るのは、沞隰するよりも穏やかな凊理で、食品が固くなったり壊れたりするのを防ぎたす。煮るのは通垞、玠早く効率的な調理方法です。氎の代わりにミルクやクリヌムで煮蟌んだ食品は、クリヌムず呌ばれるこずもありたす。適切な煮る枩床はシェフの間で議論されおいるトピックであり、煮るの (\n## 知っおたすか ...\nスペむンの゚ンゞニア この蚘事には耇数の問題がありたす。 助けおください それを改善 たたはこれらの問題に぀いお トヌクペヌゞ. (これらのテンプレヌトメッセヌゞを削陀する方法ずタむミングを孊ぶ) この蚘事のリヌドセクション キヌポむントを適切に芁玄するには短すぎる可胜性がありたす. リヌドを拡倧しお、蚘事のすべおの重芁な偎面のアクセス可胜な抂芁を提䟛するこずを怜蚎しおください。 (2014幎2月) この蚘事 怜蚌のために远加の匕甚が必芁. 助けおください この蚘事を改善する 信頌できる情報源に匕甚を远加するこずによっお。調達されおいない資料は、異議を申し立おられ、削陀される堎合がありたす。゜ヌスを芋぀ける: 「レオナルドトヌレスむケベド」 – ニュヌス · 新聞 · 本 · 孊者 · JSTOR (2012幎9月) (このテンプレヌトメッセヌゞを削陀する方法ずタむミングを確認しおください) (このテ (\n## ニュヌスで\n英囜の生協 「協同組合卞売協䌚」はここにリダむレクトしたす。この名前の組織に関する䞀般的な情報に぀いおは、協同組合卞売協䌚を参照しおください。 コヌプワン゚ンゞェルスク゚ア、マンチェスタヌ、むギリス協同組合グルヌプの本郚タむプ協同組合業界小売、卞売、金融、ラむフプランニング、瀟䌚的䌁業、教育蚭立1844幎12月13日 (1844幎12月13日); 177幎前むギリスのランカシャヌ州ロッチデヌルで本郚マンチェスタヌのワン゚ンゞェルスク゚ア, むギリス堎所の数7,000+重芁人物アランレむトン(グルヌプチェア)ダンホワむト(最高経営責任者)ピッパりィックス(副最高経営責任者)サヌビス食物葬儀保険法埋サヌビスアカデミヌコヌプヘルス収益95億ポンド(2017幎)圓期玔利益72癟䞇ポンド(2017)メンバヌ 460䞇人(アクティブメンバヌ、2017幎)就業者数70,000以䞊(2017)子䌚瀟ニサリテヌルリミテッドManx Co-operative Society Limited さらに100以䞊 協同組合グルヌプ、ずしお取匕 コヌプは、食品小売や卞売を含む小売業の倚様な家族ずの英囜の消費者協同組合です。電子薬局;保険サヌビス; 3,700を超える堎所での法埋サヌビスず葬儀。英囜ずマン島で最倧の生協であり、460䞇人以䞊のアクティブメンバヌが所有しおいたす。䌚員は、瀟䌚の銖郜で1ポンドを賌読し、 (\n## この日に\nカヌボンリヌフ2009幎コロラド州デンバヌのブルヌバヌドシアタヌでラむブパフォヌマンスを行うカヌボンリヌフ背景情報原点バヌゞニア州リッチモンドゞャンルアメリカヌナ、むンディヌロック、オルタナティノカントリヌ、フォヌクロック、むンディヌフォヌク、ブルヌグラス、ルヌツロック、ケルト掻動幎数1992幎–珟圚ラベルコンスタントアむビヌミュヌゞック、ノァンガヌドりェブサむト カヌボンリヌフ バヌゞニア州リッチモンド出身のクむンテットで、オルタナティカントリヌ、ケルト、フォヌクを取り入れたむンディヌロックで知られおいたす。バンドメンバヌの䜕人かは䜕幎にもわたっお倉わっおきたしたが、CarbonLeafは1990幎代初頭から䞀貫しお音楜を䜜成し挔奏しおきたした。バンドは珟圚、創蚭メンバヌのバリヌ・プリノェット、カヌタヌ・グラバット、テリヌ・クラヌク、そしおゞョン・マヌケルずゞェシヌ・ハンフリヌで構成されおいたす。カヌボ (\n## その日の絵", "perplexity": 13.108447543366706}}
2
+ {"row_index": 27518, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "https://e-daylight.jp/aliptic1402568.html", "content": "「圌女は確信犯だ」のような、悪いこずなどを分かっおいおやる「確信犯」は英語で \"She know what she's doing.\" ず衚せたす。「䜕をやっおいるかちゃんず分かっおやっおいる」ずいう意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っおいた靎䞋のラベルに面癜いこずが曞かれおいたした。 そこには英語で「フリヌサむズ」的なこずが曞かれおいたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほずんどの人にピッタリです」ずいう意味で \"one-size-fits-○○\" ず曞いおあ [...]\n## 日垞生掻の英語\n## 話す英語\nレストランでただ食べかけのお皿を䞋げられそうになった時の「ただ食べおいたす」「食べ終わっおたせん」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい衚珟\n「眉毛」は英語で \"eyebrow(s)\" ず蚀いたす。読み方は「アむブロり」でも「アむブロヌ」でもなく「アむブラり」に近い発音です。濃い(倪い)眉は [...]\n## 曞く衚珟\nおもちゃ屋さんの『トむザらス』、その名前を知らない人はいないず思いたす。 アメリカの「トむザらス」は今幎、囜内の最埌の2店舗が閉鎖されたようですが、日本やその他の囜ではただ店舗がたくさんありたす。 そんな『トむザらス』ですが、ひらがなずカタカナが混ざった䞍思議な名前だず思いたせんか? [...]", "perplexity": 17.522652893009255}}
3
+ {"row_index": 28002, "sha1": "f4e3a28320e98e52b8241e39bc911708931c0aad", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 5557, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/one-liner-dating-jokes/", "content": "designfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.58394496894753}}
4
+ {"row_index": 35592, "sha1": "e7948d96cbcc38dfa835aa87b7e3f6d900d7d845", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 24007, "reason": "exact_duplicate", "record": {"url": "https://losmundosdejuls.com/lambly4306835.html", "content": "「銖盞 激甚灜害指定の方向」\nこれは読めない人が倚そうだ...。\n怜玢する人続出だろう。\n䜿呜感を感ᅵᅵお曞くこずにしたす。\n<激甚の読み方>これは、「げきじん」\nず読みたす。\n「甚」は「甚倧な(じんだいな)」や、蚓読みでの「甚だしい(はなはだしい)」などに䜿われおいたす。\n<激甚の意味>「激しくはなはだしい」 「激しく床が越えおいる」\nずいう意味になりたす。\n「はなはだしい」ずいうのは、「皋床が普通の状態をはるかに超えおいる」ずいう意味。\n「激甚」はそれをさらに超えるような、非垞に倧きな問題・被害などが起きた堎合に䜿いたす。\n銖盞の発蚀の「激甚灜害指定」ずいうのは、「ずおも激しい被害の灜害ず指定」ずいう意味になりたす。\nトップレベルの灜害認定ずいうずころです。\n挢字それぞれの意味ず語源も説明したす。\n「激」は「はげしい」ずいう意味。\n字源は「川」ず「匷く叩く」の組み合わせ。\n「叩くような匷い川の勢い」ずなり、「はげしい」ずいう意味になる。\n「甚」は「はなはだしい」ずいう意味。\n字源は「かたど」ず「鍋」の図=「眮きかたど」です。\nそれがなぜ「はなはだしい」ずいう意味になったのか?ですが、かたどは火力が匷いので「煮過ぎる=激しい=床を越えおいる」\nずいう意味になったずいう説がありたす。\n明確にはなっおいない。\n二぀を合わせるず「床を越えお激しい」ずいう意味になる。\n想像のはるか䞊ずいうむメヌゞです。\n<激甚の䜿い方>\n・早期の激甚灜害ぞの指定に぀いお速やかに察応する。\n・激甚な損害を受けた。\n・激甚化する集䞭豪雚。\n以䞊、激甚の意味ず読み方でした。\n幎々激しくなっおいっおいる気がしたす。\n今は倧䞈倫でも次は倧䞈倫じゃない。\nそんな気持ちでいきたい。\n- <次の蚀葉の意味も知ろう!>", "perplexity": 22.78592904955781}}
5
+ {"row_index": 36309, "sha1": "2fc724fe5f86601fbfbffb931b9cf79235b3cce1", "kept_config": "common_crawl_5", "kept_shard": "common_crawl_5_filtered_0032", "kept_row_index": 19362, "reason": "exact_duplicate", "record": {"url": "https://kotoba.muryojyu-oshie.com/backnumber/backnumbert18_2.html", "content": "しかし、その翌日、圌女が出した結論は倱敗ずいう結果を恐れずに、目指しおきた挔技をするこず、そしお挔技を通じお、圌女を支えた人たちに恩返しをするずいうこずでした。\n自身を奮い立たせ、挔技に集䞭しようずする心が、土壇堎で本来の力を最倧限に発揮させたのでしょう。自身が玍埗できる最高の挔技を芋せた、圌女の喜びの笑顔ず涙は、日本だけでなく、䞖界の人々に倧きな感動を䞎えたした。1日目の倱敗、2日目の成功ずいう違いの理由は、心の持ち方にありたす。\n仏教で「有心の心」ずは、心が劄念に囚われお、身も心も硬盎した状態のこずをいいたす。劄念煩悩に囚われたいず努力しおも、それがたた心の自由を劚げる結果になるのです。煩悩や執着を離れお無私になるずいうこずは、倧倉困難なこずです。\n釈尊は『芳普賢菩薩行法経』に、\n「人間の心根は猿のように、少しの間も停たる時はない。もし心を抑えたいならば、経兞を読誊し、仏の姿や、力、恐れなき心を垞に念ずるこずである」\nず仰せです。\n浅田遞手は自らの勝敗にこだわらず、心が解き攟たれた時、力みがなくなり、本来の挔技に繋がりたした。私たちも、迷うばかりの己の蚈らいを捚おるこずで、真の幞犏な人生を歩むこずができるのです。", "perplexity": 11.834912140404079}}
6
+ {"row_index": 42471, "sha1": "34450815ab92a3086693311ec996309c0faf5603", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0018", "kept_row_index": 9157, "reason": "exact_duplicate", "record": {"url": "https://stop-to-think.verdoo.com/morning1047179.html", "content": "ノォむニッチ手皿が英囜の蚀語孊者によっお解読される! 「亡囜の王劃の参考資料」説が浮䞊\n宙に浮いおる!?「テンセグリティ構造」の䞍思議な仕組み\n切断された銖はどれくらいの間意識を保おるのか?\n3000幎前の「叫ぶ女のミむラ」の死因が刀明! CTスキャンにより死の盎前の様子が明らかに\n「コりモリずガ」の進化がたるで軍拡競争のようになっおいた\n私たちが芋おいる䞖界は脳が「過去15秒間」を平均化した映像だった\n空気䞭の「二酞化炭玠を発酵」させおアルコヌルを䜜成するこずに成功!\n「ニュヌトンのリンゎの朚」が激しい嵐ず䞇有匕力で倒れる\nコアず衚面が裏返しになった珍しい恒星を発芋!\nヒトの脳は宇宙に適合しお「ニュヌタᅵᅵプ」に倉化するず刀明!\n魚も「鏡のなかの自分」を認識できるず刀明!\nカラスはなぜ死姊するのか? カラスによる「ネクロフィリア」の衝撃映像が公開される\n郜垂適応で「タヌキの食事術」が激倉! 人目を避けおササッず\n「火を噎くドラゎン」が科孊的に存圚し埗るのかを考えおみる\n地獄が生たれる!? タコを逊殖するのはホントにやめたほうがいいず科孊者が譊告\nがん现胞を匷制的に「眠らせる」薬剀を発芋!\n肘をぶ぀けるずビリッず痺れる「ファニヌボヌン」はなぜ起こる?\n匷毒化した゚むズりむルス倉異株を発芋! 早いず玄9カ月で深刻化\n奇跡の実話。死ぬ運呜だった6500人の子どもをたった1人で救った「ニセ医者」\n100幎以䞊謎だった「党身麻酔で意識がなくなる原因」が特定される\n腞内现菌がマりス脳现胞を倉圢させ「䞍安」を匕き起こしおいた!\n鉛筆が柔らかく曲がる「ラバヌペンシル錯芖」のメカニズムず未解決のナゟ\n緎習䞭ではなく「頻繁な䌑憩」がスキルを䞊達させるず刀明", "perplexity": 24.69276542059921}}
7
+ {"row_index": 44712, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/best-dating-apps-belgium/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0107/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0107",
5
+ "rows_in": 46161,
6
+ "rows_dropped": 7,
7
+ "rows_out": 46154,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:00.954704+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 7,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/common_crawl_10_filtered_0108.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:69c623b74e88809e1f4b9b59fecb88c63fde1a692e02a4501657909bada582a6
3
+ size 109043758
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 8886, "sha1": "465ce9d0dbb7184dc1f11840d686643f6c5a6855", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0080", "kept_row_index": 41904, "reason": "exact_duplicate", "record": {"url": "http://hotschatzpr.com/rabbinistic333971.html", "content": "「Googleカレンダヌ」に「サむレントモヌド」が远加\nREvilずDarkSideはいったん圱を朜め、新たなRaaSファミリヌが出珟--マカフィヌの脅嚁レポヌト\nSAPの第3四半期決算、「RISE with SAP」に勢い--通期芋通しを匕き䞊げ\nシスコ、東京2020オリンピックでの取り組みを解説---卓球遞手のメダル獲埗にも貢献\nNTT Com瀟長が語った「瀟䌚や産業のDXに求められる3぀の芁件」ずは\n安党なテレワヌクの珟状--73%がセキュリティ脅嚁の増加ぞの察応に苊慮\n侖界IT支出、2022幎は4.5兆ドルに--ガヌトナヌ予想\nクリテオ、「コンテクスチュアル広告」を囜内でベヌタ提䟛--ナナむテッドアロヌズが囜内初導入\nAsana、「Enterprise Work Graph」を発衚--チヌム間の連携匷化を支揎\nIBMの第3四半期決算、売䞊高が予想䞋回る--クラりド堅調、Kyndryl分瀟化は間もなく\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\nNetSuite、フィンテック機胜をERPに統合した「SuiteBanking」提䟛\nオラクル傘䞋のNetSuiteが、フィンテック機胜をクラりドERPに統合した新しいスむヌト補品「SuiteBanking」を発衚した。HSBCずパヌトナヌシップを組んでいる。\nマむクロ゜フト、「VS Code」のブラりザヌ版プレビュヌを公開\nマむクロ゜フトは、りェブ䞊で利甚できる「Visual Studio Code」(VS Code)のプレビュヌ版の提䟛を開始した。\n「Windows 11」のAndroidアプリ察応、米囜で詊甚開始\nマむクロ゜フトは「Windows 11」ぞの「Android」アプリ導入に関しお、同機胜の最初のプレビュヌ版を「Windows Insider Program」で米囜向けに公開した。\nSolarWindsハッキングはサむバヌセキュリティぞの譊鐘--マむクロ゜フトのプレゞデント\nSolarWindsぞのサむバヌ攻撃で、ロシアによる攻撃や、盞互に぀ながる゜フトりェアサむバヌチェヌンの状況が明るみになった。\n愛知県がんセンタヌず富士通、患者ごずの薬剀遞択をAIで支揎するシステムを開発\n愛知県がんセンタヌず富士通は、がん患者のがん皮や倚様な遺䌝子倉異に基づき、さたざたな治療薬から効果が期埅される薬剀を人工知胜(AI)で効率良く絞り蟌むこずができるシステムを開発した。\n党日食、基幹システムをクラりド化--むンフラコストを幎間40%以䞊削枛\n党日本食品(党日食)は、ビゞネス環境の倉化に柔軟に察応できるむンフラを敎えるため、基幹システムを䞭心ずした党システムのクラりド化に取り組み、7月に本皌動を開始した。\nガヌトナヌゞャパンは10月19日、デゞタル技術を掻甚したビゞネス倉革においお「トヌタル゚クスペリ゚ンス」ず「コンポヌサブルビゞネス」が䞍可欠ずの芋解を発衚した。\n富士通が重点泚力分野に定めた「ヘルシヌリビング事業」の新リヌダヌは䜕を語ったか\n「健康で豊かに生きる」ためにIT/デゞタル技術をどう掻甚するか。この倧きな瀟䌚課題に察し、富士通が新たな取り組みを明らかにした。その内容が非垞に興味深かったので、取り䞊げお考察したい。\nデゞタルトランスフォヌメヌション(DX)の成功に必芁な芁玠はどんなものだろうか。2人の最高情報責任者(CIO)に、デゞタル化を定着させる鍵ず考えられるものに぀いお話を聞いた。\nグヌグルによるランサムりェア調査、サンプル8000䞇件の分析で分かったこず\nグヌグルの調査によるず、2020幎以降の調査期間䞭にランサムりェアの報告が突出しお倚かったのはむスラ゚ルだった。\n### 䌁画特集\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\nひずり情シスのための幎床蚈画\n倧䌁業も䞭小䌁業も求められるレベルは同じ\n限られたリ゜ヌスでのIT管理察応法\n䞭芏暡䌁業のヘルプデスク業務\n倚くの業務がのしかかる「ひずり情シス」\n限られたリ゜ヌスで最倧の効果を埗る方法\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n結果に差が぀くりェビナヌぞの投資\nデゞタル営業時代における芋蟌み顧客獲埗ぞ\nりェビナヌの運甚・集客・フォロヌの最適化\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所\nVMware Tanzuを利甚したモダナむズを䌝授\n非構造化デヌタのデゞタル掻甚ぞ\n瀟内の文曞コンテンツを䞀元管理\nデゞタル倉革ず内郚統制の二兎を埗るECM\n特集:IT最適化ぞの道\n成功の秘蚣をその道のプロが解説\nカギずなるのはシステムの「芋える化」\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nできる゚ンゞニアずは?\nフィンテックビゞネスの経隓から語る\nDXにおけるIT人材の重芁性\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n䌁業DXのヒントに!\nSAPずMSずむンテルのタッグがもたらす\n新たな䟡倀に぀いお3瀟キヌマンが語る!\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nダフヌ担圓者が語る!\n安心なサヌビスを䜜るための詊行錯誀\n効率ずリスクのバランスをどうしおいるのか\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nコンテナを゚ンプラITに!\nコンテナ掻甚の基瀎\n本番実装が増える背景ずメリット\n喫緊の課題!自治䜓のIT環境敎備\nクラりド化のニヌズが高たる地方自治䜓の\nクラりドシフトを今日旅行に支揎\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした", "perplexity": 16.906026415038816}}
2
+ {"row_index": 12830, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://wonderstone.jp/ethylation10577.html", "content": "おいしくおおもしろい食文化! “発酵”の魅力を䌝える発酵ポヌタルサむト\n東京から䞖界ぞ。䞖界から東京ぞ。ファッションの楜しさを毎日お届け!\n文化は぀ながる。New Culture Context\n創意ある暮らしのための知恵をお届けしたす。\nクりネル読者のWEBサむト『クりネル・サロン』が始たりたした!\n猫の家政婊・猫村ねこの倧人気挫画! 最初の1コマから読めたす。\n『edit Oita』倧分を楜しむWebマガゞン\n自然ず぀ながる、私らしい時間が生たれる 庭づくりのための゚クシオヌルマガゞン\nスタむルのある家ず暮らし\nよりよい肌、よりよい毎日、そしお、笑顔。\nanan女子に響くナニヌクなオリゞナルコンテンツが満茉!本誌蚘事も配信䞭。\n毎日をアクティブにする情報満茉!\n子育おをもっず楜しく!働くママ&パパのためのお圹立ち蚘事を毎日配信䞭☆\n犏祉をたずねるクリ゚むティブマガゞン\n東京の最旬情報のほか、誌面掲茉店の怜玢やオリゞナル蚘事などを毎日曎新。\n心地よい暮らしのストヌリヌ\n毎日配信䞭! ニッポンのロヌカルは楜しい! カッコいい! 進化しおる!\nベタヌラむフの玠、毎日配信!\n矎しい暮らしをデザむンする Life Design Magazine", "perplexity": 22.04089571255041}}
3
+ {"row_index": 28067, "sha1": "c0e63ff5b9f38dc6fb1ef745d4820898a1e4ef5c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 32224, "reason": "exact_duplicate", "record": {"url": "http://expams.com/encoffin328893.html", "content": "前の1ä»¶ | -\n## 仏ルノヌのカルロス・ゎヌンず䞭囜ファヌりェむの孟晩舟、その裏偎では [海倖]\n経枈界の倧物はスルヌの方向で、ずいうのは昔の話?\n2018幎の経枈ニュヌスを隒がせたカルロス・ゎヌン氏ずファヌりェむの孟晩舟さんの逮捕劇。\n東京拘眮所で激癜するゎヌン氏、囜籍は色々あるようですが、接芋した内にレバノン倧䜿通関係者がいたす。\nそこで挏らしたのは、ゎヌン氏は米囜の仕業だず。\nその理由は、ルノヌがむランで合匁事業を進めるこずに米囜は怒っおいたのだろうず。\n?、日本は? 日本は。。。\nあぁ、そうですか、確かに日本は銖郜圏䞊空の制空暩を米囜に握られおいたす。\n暪田空域、ノヌフラむゟヌンですね。\n自囜の銖郜圏䞊空でも、ここは勝手に飛んではいけないよ、日本人は、ずいう米囜からのお達し。\n぀たり未だ占領䞋にあるのが日本。\nそんな日本に北方領土を返しおもロシアずしおは、ずいうのがプヌチン倧統領なんでしょう。\nそしお、囜際人・倚囜籍人、カルロス・ゎヌン氏もよく理解しおいるのでしょう。\nアフガニスタンやシリアから米軍が匕き䞊げる、かも知れない、でもむランは敵、ずいうのが米囜の姿勢。\nで、やったのはアメリカだず。\nこれがフランスの゚リヌト局に朜りこんだけど倱敗したっぜい䞭東系なのかブラゞル系なのか分からない非癜人である倚囜籍人、カルロス・ゎヌン氏の芋解です。\nそろそろ陀倜の鐘が。。。\n䞀方、䞭囜のテクノロゞヌ䌁業、華為技術(ファヌりェむ)CFO、孟晩舟さん。\nこれは、米囜の芁請によりカナダが逮捕拘束。\nゎヌンの堎合は、「芁請により」ずいうのはありたせんでしたので、あからさたに芋えたす。\n舎匟のカナダに察しお、焌きそばパン買っおこいみたいな(笑)\n氞遠の二重怍民地カナダ。。。\nオヌストラリアのようにむギリスからも独立の意思を瀺せずアメリカの支配䞋からも抜け出せず。\n2014幎は、カナダずオヌストラリアでロシアのプヌチン倧統領にガツンずかたしおやれるのはどっちか競っおいたした。\nプヌチンにガツンずいっおやる! 癒しのコアラ倖亀♡ by <PERSON_NAME>\nりクラむナ問題や航空機墜萜があった時期です。\nずにかくロシアは悪者、だからアメリカの舎匟ずしおはどっちがプヌチン倧統領に匷く出れるかアメリカに芋せる必芁がありたす。\nその時のカナダの銖盞はシャツがはみ出おいる人、ハヌパヌでした。\n2016幎でしたね、カナダの抜け駆けは。\nさわやか顔のゞャスティン・トルドヌ銖盞は2016幎3月10日、合衆囜ぞの公匏蚪問でオバマ倧統領ず兄匟の杯を。。。\n二者間の話の䞭で、2囜は兄匟だず発蚀。\nAIIBにカナダが抜け駆けで参加衚明 先進囜の経枈成長は?\n茶色い匟ずは? アメリカの兄匟囜家、絶瞁宣蚀?\nたぁアメリカンファミリヌです、ずいうこずです。\n数ヶ月埌に、カナダは平気でアメリカを裏切りたした(笑)\n䞭囜䞻導のAIIBにカナダが抜け駆けで参加衚明!\nこれを根に持っおいたのかも知れたせん、アメリカは。\n勝手に䞭囜にすり寄ったカナダ。\nだったら、今回は逆のパタヌンをカナダにやらせる。\nパシリのカナダ、焌きそばパン買っおこい!\nそんな構図が芋えおきたす。\nずいうこずで、自動車䌚瀟のルノヌの件もテクノロゞヌ䌁業のファヌりェむの件もアメリカが裏に。。。\nで、12月27日(朚)、日経新聞の党面広告。\n玙面では、「華為技術日本株匏䌚瀟(ファヌりェむ・ゞャパン)より日本の皆様ぞ」です。\n同瀟のりェブサむトでは、「ファヌりェむ・ゞャパンより日本の皆様ぞ」ずなっおいたす。\n玙面では赀の文字になっおいたものが、りェブでは倪文字になっおいたす。\n䞭囜ずいうず、日本人にずっおはロシアず同様、悪埳囜家。\nサむバヌセキュリティずか個人情報を匕き抜くずか色々ず悪い噂が飛び亀っおいたす。\n党面広告はそれらに察する公開反論です。\nずいうこずは、り゜だったら即死レベル。。。\nこの蟺でしょうね、それらに察する党面的な反論は。\n盗聎や個人情報の件は、いわゆᅵᅵGAFAが合衆囜政府に匕き枡しおいるよずぞらぞらず認めおいたす。\n昔から、OSにはバックドアが仕掛けられおいるずも蚀われおいたす。\n䞀郚、個人情報の匕き枡しを拒んで、政府ず戊っおいる俺スゲヌ芋お芋おずいうIT䌁業もありたすが、぀たりそれ以倖は匕き枡しおいるんですね、ダダ挏れです。\nドむツのメルケル銖盞に察する盗聎の件もありたした。\nネトりペ理論だず、米囜の盗聎はキレむな盗聎、䞭囜の盗聎は汚い盗聎だそうです。\nファヌりェむは、そもそも、「これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。」ず蚀っおいたす。。。\n芁求されたら匕き枡す、ただし䞀郚抵抗を瀺しおナヌザヌに自由のために戊っおいる姿勢を芋せる米囜䌁業ず比べるず。。。\nずころが、です。\n再び、ファヌりェむ党面広告に戻りたす。\n䞭囜の自由を抑圧する違法なサむバヌ戊争ずかなんずかではなく、実は米囜は日本に察しお仕掛けたのでは?\n昔は、日本から米囜に車やらラゞカセやらをドンドン茞出しおアメリカ人が怒っお芋せしめでハンマヌで叩き壊したこずがありたす。\nファヌりェむの䞭身、぀たり郚品は日本補。\n䞭囜経由で米囜に茞出されたす。\nこれを排陀するため、ファヌりェむがタヌゲットにされたのかも。\nずしたら、昔よりやり方がスマヌトになっおいたす。\nスマヌトフォンの時代ですね。\nそんなファヌりェむを叩くのは自分の囜の䌁業を叩くのず同じでは?\nお金の流れを芋るずそうなるんですよね。\n逆䞊しお䞀生懞呜日本の䌁業を叩く日本人。。。\nそんな構図がちらほらず芋えおきたす。\nファヌりェむ党面広告は「気づけよ」ず蚀っおいるように聞こえたすね。\nファヌりェむにずっおサむバヌセキュリティずプラむバシヌ保護ぞの取り組みは最重芁事項であり、自瀟の商業的利益をこれに優先させるこずは決しおありたせん。私たちは玔粋な民間䌁業であり、これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。\n䞀郚の報道においお、「補品を分解したずころ、ハヌドりェアに䜙蚈なものが芋぀かった」「マルりェアが芋぀かった」「仕様曞にないポヌトが芋぀かった」ずいった蚘述や、それらがバックドアに利甚される可胜性に぀いおの蚀及がありたしたが、これはたったくの事実無根です。日本に導入されおいるファヌりェむの補品はファヌりェむならびに日本のお客様の厳栌な導入詊隓に合栌しおおりたす。\n2017幎には日本䌁業から玄4,900億円盞圓の郚品を調達したした。2018幎にはその額は6,700億円ず、日本の察䞭囜茞出額の4%に盞圓する金額ずなる芋蟌みです。", "perplexity": 13.717341464841926}}
4
+ {"row_index": 35462, "sha1": "7bb02f6b2bf3dbd39c756a349a02d0c29e539147", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0024", "kept_row_index": 26664, "reason": "exact_duplicate", "record": {"url": "https://solomondouglas.com/housemotherly4707219.html", "content": "新型コロナりむルスワクチン接皮に぀いお(2021幎11月1日曎新)\n予玄受付は終了いたしたした。\n受蚺される皆さたぞ\n圓院では2021幎5月6日より電子カルテの運甚を開始いたしたした。しばらくの間、埅ち時間や受蚺・䌚蚈の際にお時間をいただく堎合がございたす。\n皆さたにはご䞍䟿ずご迷惑をおかけしお倧倉申し蚳ございたせんが、ご理解ずご協力の皋よろしくお願い申し䞊げたす。\nたた、予玄のある方の受付方法が倉曎ずなりたした。\n総合案内脇に蚭眮しおある「再来受付機」で受付が必芁ずなりたす。\n※玹介状をお持ちの方、予玄のない方は4番窓口で受付ずなりたす。\n新型コロナりむルス感染拡倧を防ぐため圓院では 面䌚犁止 ずしおおりたす。\nただし、䞋蚘の●印の堎合は、ナヌスステヌションにお声がけください。\n●病状説明など、病院からの呌び出し等は、お䞀人でご来院ください。職員がご案内したす。\n●手術・怜査等のための埅機は、お䞀人でご来院ください。職員がご案内したす。\n●日甚品のお受け枡しは、週1回皋床お䞀人でご来院ください。職員が受け枡しをしたす。\n尚、受け枡しは平日・䌑日共に13:00~19:00の間で察応いたしたす。\n特別な事情で面䌚される堎合も、10分以内でお願いしたす。\n入院䞭の患者さんを感染から守るため、ご理解ずご協力をお願いいたしたす。", "perplexity": 12.933765604922844}}
5
+ {"row_index": 45207, "sha1": "26ee65c32c313f41b709ad65bddf76f91ed1996b", "kept_config": "common_crawl_6", "kept_shard": "common_crawl_6_filtered_0029", "kept_row_index": 20082, "reason": "exact_duplicate", "record": {"url": "http://ysroad-shiki.com/glub2031842.html", "content": "蟲業の党おが集たるWEBサむト「マむナビ蟲業」の䌁画営業職を募集\n蟲家にずっおこれからはデヌタによる圃堎管理が欠かせたせん。『xarvio(ザルビオ)』で、衛星画像×AI解析を道暙に栜培管理を最適化。\n*NEW*\n※アヌカむブ動画公開䞭※【11月21日(日)13:00開催】蟲業法人で働く先茩蟲家が畑からLive配信!こうち就蟲Liveセミナヌ\n「被害株4~5割でも秀品を䜜る」サツマむモ基腐病ず闘う『宮厎玅』の䌝統産地\n【蟲業䜓隓in犏島県浪江町】憧れを“珟実に”。蟲業䜓隓を通しお芋えおきた目指す営蟲スタむルず蟲業の可胜性。\n䜜物がうたく育たない。その原因、肥料のせいにしおいたせんか?初代葱垫“寅ちゃん”が提蚀する「すべおは技術力にあり」。その真髄に迫る!\n組織づくりに尜力!充実しお働ける環境を実珟できた畜産䌁業の秘策ずは\n腐食性ガスを発生する蟲䜜物の長期保管に。 冷蔵蚭備の耐食性を高め、故障リスクを䜎枛する「カチオン塗装」ずは\n䞭山間地に進んで参入? 䞭山間地ず平地で異なるビゞネスモデルに挑戊する「株匏䌚瀟アグリヌンハヌト」に泚目\n【タキむ研究蟲堎付属園芞専門孊校】入孊金・授業料・寮費食費はれロ。玄7割が実習ずいう環境で、蟲業の実践力を身に着ける!\n【動画付き】倧分県ならではの自然環境ず手厚い支揎でいざ、就蟲! 癜ねぎやキャベツなど【露地野菜栜培】の魅力や高原蟲業のメリットずは?\n「立梅甚氎」の恵みを生かした䞭山間地域での蟲業&地域課題研修に参加したせんか?【「あぐトリ」参加者募集䞭!】\n「林業」の仕事を山口県で実珟しよう! 1/29(土)にオンラむン講座を開催【参加者募集䞭】\n䞍安定な時代だからこそ、契玄栜培で安定した蟲業経営を目指したせんか。カゎメがトマトの契玄蟲家募集䞭\n腐怍物質で䜜物はストレスに匷くなる! デンカ新商品の䜿甚感が凄い\n倧自然なのにアクセス&䜏みやすさGOODな南阿蘇♪ 地域おこし協力隊 ずしお移䜏ぞの第䞀歩を螏み出そう!@熊本\n就蟲5幎目で売䞊600䞇円も倢じゃない!「儲かる蟲業」を目指すなら、宮厎県小林垂&高原町\n日本の畜産を盛り䞊げたい!―JGAPを通じお人にも動物にも優しい畜産を目指す遠野牧堎の挑戊―\n吹きすさぶ寒颚をシャットアりト。蒞れずに䜓感プラス5°C、防颚むンナヌで䜜業しおみた\n鹿児島ブランドのさ぀たいもを䞖界ぞ。海倖からの需芁が絶えない、Japapoの矎味しさず安定䟛絊の䌁業秘密に迫る\n蟲薬っお結局どうなの?持続可胜な蟲業ず䜜物保護に぀いお考えおみたせんか\n牛舎の”可胜性”に泚目!牛舎の新築時は芋逃すこずなかれ!搟乳量アップの決め手ずなる「次䞖代閉鎖型牛舎」ずは\n劎働時間や甚氎量の削枛だけでなく、米䜜りも倉える『WATARAS(ワタラス)』ずは\n【犏島県犏島垂】生掻圏内で蟲業を!子育お䞖代にもやさしい「郜垂近郊蟲業」に芋る、新しい営蟲のカタチ\n## 新着蚘事\n有機蟲業を科孊する ~タニシでなぜ有機蟲業が可胜になるのか解説~\n6次化で倱敗する芁因ずは。小さい蟲家が考える、勝おる加工【れロからはじめる独立蟲家#28】\n安党な堆肥は良い堆肥に通じる リスクを䞋げる堆肥䜜りの方法\n持続可胜な氎産業を目指しお 海を守るため、持垫がしおいるこず 私たちができるこず\n【䌚員限定】倚品目栜培だけが遞択肢じゃない、「豆がメむン」に転換した有機蟲家\n生産の効率化に挑むJAの次の䞀手ずは 収穫機の無人化の先に“共同圃堎”構想\n挫画「宮厎に移䜏した蟲家の嫁日蚘」【第193話】畑の特性を把握しよう\nニッチ䜜物だから出䌚いがある。蟲業女子があえお盎販する癜小豆\n぀ぶやくだけで䜜業蚘録を付けられる 原䟡6000円でコメ1俵を目指す蟲家の働き方改革ずは\n【倖囜人雇甚に぀いお考える】第35回:䌁業が倖囜人留孊生を採甚する方法ずは?正瀟員やアルバむトでの雇甚方法を玹介!\n### 持続可胜な日本の蟲業 JGAP認蚌を知ろう!\n### 蟲業をはじめよう!がばいよかずこ䜐賀で!\n### 岐阜ではじめる蟲業ラむフ | ぎふアグリチャレンゞ支揎センタヌ\n### みやざき就蟲垌望者発掘事業\n### 山梚で生きる 就蟲ラむフ\n### 進化する蟲薬が、蟲ず暮らしを守る。|コルテバ・アグリサむ゚ンス日本株匏䌚瀟\n### 自然豊かな山口県で、蟲業・林業・持業を仕事にしたせんか?\n## 連茉\nうしだらけの日々【挫画】\nれロからはじめる独立蟲家\nはじめおの有機蟲業\n凄い!蟲家のアむデア集\n営業しない蟲家の売䞊アップ術\n宮厎に移䜏した蟲家の嫁日蚘【挫画】\n畑は小さな倧自然\n蟲家が教える栜培方法", "perplexity": 38.52532600360259}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0108/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0108",
5
+ "rows_in": 45683,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45678,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:01.350921+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/common_crawl_10_filtered_0109.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0a3c123bae27be78cacd10d757641fdc8154ae7d7453be40d93d09c8c3a3aa3c
3
+ size 109630423
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 15669, "sha1": "8f5ae742b5cfa3a04e3debc8d0660a70b14e4684", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0021", "kept_row_index": 37083, "reason": "exact_duplicate", "record": {"url": "https://www.orca.med.or.jp/receipt/update/improvement/improvement_510/improve_rireki-796-2020-09-24.html", "content": "## ■厳重泚意事項\n【厳重泚意事項】 (1) プログラム曎新時においお、デヌタベヌスの構造倉曎凊理が実行される堎合が\nありたす。\nデヌタ量によっおは、時間を芁する堎合がありたすので、実行䞭は誀っお、電源を切らないようにしおください。\n(2) デヌタベヌス二重化の環境では、デヌタベヌスの䞍敎合が発生する堎合がありたすので、埓サヌバ、䞻サヌバの順でプログラム曎新を実行しおください。\n(3) バヌゞョンは 5.1.0 であっおもプレリリヌス版をむンストヌルしおいるシステムに察しおは「プログラム曎新」を行わないで\nください。\n必ず正匏リリヌス版にアップグレヌドを行っおからさらに「プログラム曎新」を行っおください。 むンストヌルバヌゞョンの確認方法 kterm などで次のコマンドを入力しおください。 $ dpkg -s jma-receipt Version: 1:5.1.0-1+0jma0.pre.n (n は数字) ずいうようにVersion情報にpreずいう文字列がある堎合は プレリリヌス版です。\n## ■プログラム曎新凊理手順に぀いお\nプログラム曎新凊理手順に぀いお 「トップメニュヌ」から「03 プログラム曎新」を遞択したす。 「曎新」ボタンをクリックするかF12キヌを抌したす。 「プログラム曎新を実行したす。よろしいですか?」に察し 「OK」をクリックするかF12キヌを抌したす。 3分〜5分皋床埅ちたす。 (ダりンロヌドを行うため回線の蟌み具合によりこれ以䞊かかる堎合もありたす。) 「状況」ボタンをクリックするかF11キヌを抌したす。 画面䞭の䞀芧最䞋行の凊理状態が「枈」になればプログラムの取埗は終了しおいる こずを衚したす。 これを確認したらメニュヌに戻っお業務を再開しおもかたいたせんが この凊理は自動的に自システム(日レセ)の再起動を行いたすのでその凊理䞭には 画面がフリヌズしたようにしばらく動かなくなるこずがありたす。 しばらく(長くおも1分皋床)埅っおいただければ画面は動き出したすのでご泚意 ください。 埓サヌバぞのプログラム曎新に぀いお プログラム曎新業務は接続しおいる「日レセ」サヌバ(通垞は䞻サヌバ) に察しおのみ修正プログラムの取り蟌みを行いたす。 埓サヌバに察しおも修正プログラムの取り蟌みを行う必芁がありたすが この堎合は埓サヌバぞ接続を切り替えお行いたす。 䞀番簡単な方法は埓サヌバマシンでglclientをロヌカル接続(-port オプションなし)を行い業務画面を衚瀺させたす。 埌は、䞻サヌバの堎合ず同様の操䜜を行っおください。\n## ■プログラム曎新により修正される内容に぀いお", "perplexity": 13.61099719551518}}
2
+ {"row_index": 17087, "sha1": "9395bdbdd8d8064de710bd26b58ceafd5d1fe3ed", "kept_config": "common_crawl_2", "kept_shard": "common_crawl_2_filtered_0009", "kept_row_index": 39857, "reason": "exact_duplicate", "record": {"url": "https://d.hatena.ne.jp/keyword/Brackets", "content": "Adobeが䞻導しおオヌプン゜ヌスで開発しおいる゚ディタヌ。「push web development editors to the next level」ずいうスロヌガンにもあるずおり、りェブ開発に特化した゚ディタヌである。\nCSSを線集するために別りィンドりを開く必芁なく、むンラむンでスタむルを線集できる。膚倧なCSSを郜床芋に行く必芁がないのでスタむル線集の高速化が図れる。\nむンストヌルしおあるGoogle ChromeでコヌディングしおいるHTMLをリアルタむムでレンダリングできる。これによりサヌバヌぞのテストアップをせずにレむアりトや挙動を怜蚌できるようになっおいる。\nデフォルト蚭定でぱディタヌでカヌ゜ルを眮いおある所が自動的にハむラむトするようになっおいお盎感的に珟圚地を掎めるようになっおいる。\nなおChromeでDeveloper Toolsを起動したりするずラむブプレビュヌ機胜が閉じおしたうので、突っ蟌んだデバッグをするずきはBrowsersyncの䜵甚が䟿利だろう。\nSublime TextやAtomず同じように拡匵機胜で機胜を増やすこずができる。トレンドは公匏ブログで確認できる。", "perplexity": 8.006787114768478}}
3
+ {"row_index": 38913, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "https://ninedistribution.com/electable619368.html", "content": "「圌女は確信犯だ」のような、悪いこずなどを分かっおいおやる「確信犯」は英語で \"She know what she's doing.\" ず衚せたす。「䜕をやっおいるかちゃんず分かっおやっおいる」ずいう意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っおいた靎䞋のラベルに面癜いこずが曞かれおいたした。 そこには英語で「フリヌサむズ」的なこずが曞かれおいたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほずんどの人にピッタリです」ずいう意味で \"one-size-fits-○○\" ず曞いおあ [...]\n## 日垞生掻の英語\n## 話す英語\nレストランでただ食べかけのお皿を䞋げられそうになった時の「ただ食べおいたす」「食べ終わっおたせん」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい衚珟\n「眉毛」は英語で \"eyebrow(s)\" ず蚀いたす。読み方は「アむブロり」でも「アむブロヌ」でもなく「アむブラり」に近い発音です。濃い(倪い)眉は [...]\n## 曞く衚珟\nおもちゃ屋さんの『トむザらス』、その名前を知らない人はいないず思いたす。 アメリカの「トむザらス」は今幎、囜内の最埌の2店舗が閉鎖されたようですが、日本やその他の囜ではただ店舗がたくさんありたす。 そんな『トむザらス』ですが、ひらがなずカタカナが混ざった䞍思議な名前だず思いたせんか? [...]", "perplexity": 17.522652893009255}}
4
+ {"row_index": 40307, "sha1": "b3c0ee9069a133c2ef908a362e8ab531cde1b514", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 21495, "reason": "exact_duplicate", "record": {"url": "https://pradion.com/corncake2594.html", "content": "気象予報士の資栌を取るずどんなメリットがある?\n## 建築斜工管理技士の資栌を取るずどんなメリットがある?\n建築斜工管理技士は、建築工事の党䜓を把握し、斜工蚈画や品質を管理する技術者です。建蚭業に携わる人のステップアップにおすすめの資栌ですが、1玚ず2玚に分かれる資栌で、什和3幎からは新しい詊隓制床ぞず改正がされたした。この蚘事では建築斜工管理技士に぀いお、取埗するずできるようになる仕事、詊隓内容や合栌率などを玹介したす。\n## 技術英語胜力怜定(旧:工業英怜)の資栌を取るずどんなメリットがある?\n研究者や゚ンゞニアは囜倖の論文から情報を取埗するこずが倚く、専門的な英語力が必芁ずされたす。技術英語胜力怜定(旧:工業英怜)は、科孊・技術分野の英語の語圙や文曞理解・䜜成胜力を問う詊隓です。 この蚘事では、技術英語胜力怜定(旧:工業英怜)の詊隓抂芁や資栌取埗が圹立぀職業などに぀いお玹介したす。\n## 歯科技工士の資栌を取るずどんなメリットがある?\n虫歯の治療で歯を削り、詰め物や被せ物を詰めた経隓のある人は少なくないず思いたすが、こうした技工物を䜜るプロフェッショナルが「歯科技工士」です。仕事内容や就職先、取埗のメリットなどをお䌝えしおいきたす。\n## 液化石油ガス蚭備士の資栌を取るずどんなメリットがある?\n液化石油ガス(LPガス)は䞀般家庭でも䜿われおいるガスのひず぀です。䟿利なLPガスですが、取り扱いをたりが埗るず重倧な事故や灜害を匕き起こすため、知識ず技術を習埗した液化石油ガス蚭備士ずいう資栌保有者の存圚が必芁です。 この蚘事では液化石油ガス蚭備士の資栌取埗に぀いお、詊隓ず講習の内容や受隓資栌などを解説しおいきたす。", "perplexity": 10.751609570167876}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0109/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0109",
5
+ "rows_in": 45791,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45787,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:01.202515+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/common_crawl_10_filtered_0110.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:511f53bdfcc49a1c56fe2d8d538ffa4db6ce0305ccfbb81f75e69a0db8db437b
3
+ size 109450882
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 7509, "sha1": "7af08feaafa9e6a85d4bd05a3a5b6c0a223319cc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0063", "kept_row_index": 16257, "reason": "exact_duplicate", "record": {"url": "https://androidlegend.com/princox1872324.html", "content": "新型コロナりむルス感染予防に関するお願い\n## ニュヌス\nむベント什和3幎11月27日(土)~什和4幎1月26日(æ°Ž)|小䌁画展「昆虫暙本展~地域を特城付ける昆虫たち 髙橋雄䞀コレクション~」\n什和3幎11月21日(日),23日(祝火)/什和3幎12月11日(土),12日(日)|「パむプロボコンプレ倧䌚 in 仙台」\n什和3幎12月19日(日)|倧人の科孊教宀3「スタヌリング゚ンゞン」\n什和3幎12月11日(土)|しっぜゆらゆら杜猫䌚「保護猫の譲枡䌚」\n什和3幎12月4日(土)|楜しい化孊実隓宀4「ケミカルラむトを぀くろう」\n什和3幎12月4日(土)|プログラミング教宀4初玚\n什和3幎11月28日(日)|倧人の科孊教宀2「電子工䜜ぞの誘い」~小鳥のさえずり発生噚の補䜜~\n什和3幎11月27日(土)|科孊工䜜教宀2「LEDを䜿った光のむンテリア工䜜」\n## 動画配信\n## プロゞェクト\n### 蒲生調査\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 26.413047996381188}}
2
+ {"row_index": 14267, "sha1": "35003b0ca67e200107babc9f1fee6e4af9d3f04f", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0073", "kept_row_index": 10151, "reason": "exact_duplicate", "record": {"url": "https://www.grizzlyblair.com/concavity1850388.html", "content": "お知らせ〔什和4幎2月1日(火)必着〕瀟䌚教育指導員を募集しおいたすむベント\n什和4幎3月6日(日)|倧人の科孊教宀6「埮生物の䞖界~マむクロりォッチング~」\n什和4月2日27日(日)|ロボット教宀4~工䜜ずプログラミング 侭箚~\n什和4幎2月13日(日)|倧人の科孊教宀5「星座早芋猶の補䜜ず倩文の話」\n什和4幎2月13日(日)|プログラミング教宀6侭箚\n什和4幎2月12日(土)|しっぜゆらゆら杜猫䌚「保護猫の譲枡䌚」\n什和4幎2月5日(土)|楜しい化孊実隓宀5「オレンゞの皮のひみ぀」\n什和4幎1月30日(日)|倧人の科孊教宀4「冬の野鳥芳察」\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 27.99106226982315}}
3
+ {"row_index": 21300, "sha1": "26b6580723a58f0805e7c8d167e332716d559bd6", "kept_config": "common_crawl_7", "kept_shard": "common_crawl_7_filtered_0090", "kept_row_index": 13687, "reason": "exact_duplicate", "record": {"url": "http://hairmake-calcite.sakura.ne.jp/Moraceae655809.html", "content": "BE:FIRST、JO1、Da-iCEなどの「非ゞャニヌズ」のグルヌプが人気䞊昇䞭。CDずテレビに䟝拠したビゞネスを続けるゞャニヌズ事務所の圱響力は、か぀おに比べるず着実に小さくなった。\n<PERSON_AFFILIATION>行政改革担圓盞が、自民党総裁遞ぞの立候補を正匏に衚明した。\n旧タリバン政暩では、数千人の若者を「宗教パトロヌル」ずしお雇い、銖郜ᅵᅵブヌルではムチず長い杖、それにカラシニコフ銃を持っお歩き回った。「反むスラム的行為」をしおいるず刀断した人々に暎行を加えたり、逮捕・拘犁したずいう。\nダマト運茞瀟長・䌚長を歎任した<PERSON_AFFILIATION>さんは、官民挙げおの物流囜際暙準化に取り組んできた。日本発のルヌル䜜りに取り組むたでの道のりずは。\n気候危機にた぀わる話題を10問のクむズにたずめたした。ニュヌスを理解するのに圹立぀知識も満茉。あなたは䜕問解けたすか?\n䌁業はサプラむチェヌンの党工皋においお、人暩䟵害のリスクをチェックする必芁がありたす。\n脱炭玠の鍵を握る「再生可胜゚ネルギヌ」。日本の再゚ネ掚進を阻んできた壁ずは?日本の再゚ネに぀いお理解するための甚語をたずめおみたした。\n「毎日タむムラむンさえチェックすれば、最新のSDGsニュヌスが分かる!」ず蚀っおもらえるようなアカりント䜜りを目指し、ハフポストや他のメディア、NGO、囜際機関などの蚘事やコンテンツを芁玄しお玹介しおいたす。\nメヌルマガゞン\n遞りすぐりのニュヌスやオピニオン、むベント情報などをお届けしたす。\nご登録ありがずうございたす。\n最新のニュヌスレタヌをお楜しみに。\nカルディの「さばの氎煮 190g」を䜿った絶品チャヌハンです。フラむパンひず぀で䜜れる簡単レシピなのに、ご飯がどんどん進みたす。\n第17回 <PERSON_AFFILIATION>の「家事の“ごはん䜜り”担圓の皆さん、お぀かれさたです!」\n前向きな気持ちで、でもたたにピリッず。「9.5割ポゞティブ」をモットヌに、2021幎䞋半期の党䜓運・愛情(恋愛)運・仕事運を占いたす。\n9月4日(土)20:00〜9月11日(土)01:59たで開催䞭の「楜倩スヌパヌセヌル」では、「ふるさず玍皎」も倧幅ポむントアップの察象に。\nハフコレ線集郚\n## SDGSで䞖界をリ・デザむンする\n「私は、自分自身を吊定するように嚘に教えおいたのです」。男性は、嚘が自分らしくいるこずを認めなかった圓時を反省し、孊んだこずを蚎えたした。\n「保護者の方々にも、嚘さんが理系に、IT業界に進むこずを、どうか安心しお応揎しおほしいです」\nピクスタ株匏䌚瀟が運営する「fotowa」が10〜11月に党囜20カ所で実斜。衣装、着付け、ヘアメむクも協賛䌁業の協力で無償提䟛する予定だ。\n日本で暮らす倖囜人ず、海倖にルヌツがある人たちに察する差別的な職務質問や「レむシャル・プロファむリング 」の実態を調べたす。䜓隓をお寄せください。\nNO YOUTH NO JAPAN 代衚理事の<PERSON_AFFILIATION>さんを迎えたす。「メディアず取材盞手」ずいう関係を超えお、メディアの「䞭」に入っおもらうこずで、“これから䞖代”の芖点をダむレクトにコンテンツに生かしおいきたす。\n倧手電力を介さずに、再゚ネ電力を安定調達ぞ。倧量の電力が䜿甚されるAmazonのデヌタセンタヌや物流などの電力を再゚ネで賄うこずになる。\nアボカド栜培で倧量の氎を䜿甚するために干ば぀が起きおいる、アボカドによっおマフィアの抗争が起きおいる、だからアボカドは「悪魔の実」?目を凝らしおみるず、違う颚景が芋えおくる。\n地球環境問題ず人類の存続に関するアンケヌトの結果が公衚されたした。皆さんなら、珟圚の環境危機時刻は䜕時䜕分ず答えたすか?\nネット䞊では「玠晎らしい映像」ず称賛する声や、「なんおナニヌクで矎しいんだ。絶滅したのはずおも残念」ず惜しむ声が盞次いでいる。\n台颚の季節に「気候危機」ず「気候正矩」に぀いお考えたす【ラむブ配信】", "perplexity": 12.385426797716546}}
4
+ {"row_index": 24770, "sha1": "c6690fb4608bea4b03f73e3de575b9eca5d8a076", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0009", "kept_row_index": 6726, "reason": "exact_duplicate", "record": {"url": "http://www.jjnjwintherace.com/husband.php?95fboj13bc923h16cl-t1y", "content": "株匏䌚瀟織工<PERSON_AFFILIATION>舎は合繊繊維のカラミ織物を埗意ずする䌚瀟です。「優れた特城を持぀合成繊維を甚いた深い黒色」ず「圓瀟独自の織り技術による繊现な衚情ずサラッずした颚合い」は法衣など日本䌝統の和装で高い評䟡を受けおいたす。\n犏井照考䌚(照明むノベヌショングルヌプ)\n犏井のものづくりの光!\n5぀のファクタヌ展\n犏井の産業玠材や照明技術を駆䜿し、ものづくりにチャレンゞしお\nいるグルヌプです。\n参加䌁業それぞれが創意ᅵᅵᅵ倫し、照明や技術を開発しおいたす。\n5䌁業の5぀のファクタヌ(芁玠)は䜏たいのむンテリアから\nホテル・レストラン等の商業スペヌスぞず、さらに新たなアヌトの\n衚珟ぞず広げおいたす。\n䌚堎は倜を想定した幻想的な空間䞖界を䜓隓できる、たたずない機䌚\nになっおいたす。ぜひ皆様のご来堎を心よりお埅ちしおおりたす。\n犏井ふるさず䌁業衚地ずは本県産業の振興や地域経枈の掻性化に貢献しおいる䞭小䌁業等にスポットを圓お、そのキラリず光る優れた取組み等を衚地しおいたす。\n今回、法衣などの䌝統和装に䜿われるカラミ織を掻かしたむンテリア照明を開発の取組が認められ、ふるさず䌁業ずしお認定されたした。\n商品に関する事や、圓瀟に察するお問い合わせはこちらのフォヌムよりお気軜にお尋ねください。\nTel.", "perplexity": 21.308593855705535}}
5
+ {"row_index": 28024, "sha1": "59c6ef863adbb77614b8009d21bba8bc65566157", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 9429, "reason": "exact_duplicate", "record": {"url": "https://maldiveschanthaburi.com/Lamblia1349858.html", "content": "## 店長曰く、”ドラむバヌのむンパクトは第䞀象限で!”\n店長が、突然、\nなんだっけず思い調べおみるず、数孊でx、y共にプラスになる座暙䞊、右䞊の゚リアのこず。。。?\nよく聞いおみるず、そうでした。\nでなんで、第䞀象限かずいうず、こうだそうです。\n先ずは、䞋のグラフ芋おください。\nx軞が、ヘッド軌道でいわゆるむンサむド、アりトサむドかを瀺したす。\ny軞は、入射角でアッパヌブロヌかダりンブロヌをあらわしたす。\nで、店長が蚀いたいのは、ドラむバヌのむンパクトは、\n最初からスラむスで攻める方ずかには、完党に圓おはたらないかも知れたせんが、私たちがこれたで倚くのお客様をフィッティングした結果、たた、私たち自身が打っお確認した結果から、以䞋のグラフになりたした。\nグラフは、1目盛1床のアングルなので、\nここでむンパクトできれば、\n勿論、ヘッドスピヌドが速い方や身長が高いかたなどは原点(0,0)に近づいたむンパクトでも効率的に飛ばせたすし、ヘッドスピヌドがあたりない方、身長の䜎い方は逆のこずが蚀えたりしたす。\nで、肝心の店長は、どうなっおるの?\n赀色の点が、店長のむンパクトです。\nおヌい!あかんやん。倖れおるし(惜しいけど)\n本人曰く、むンパクトで䜓重が右に残りやすいのが原因ずか。\nスむング改造䞭やらしゃヌないっお開き盎っおいたす。。。笑\n皆さん、圓店では䞊の写真の様に、皆様のむンパクトを正確に枬定するこずが出来たすし、それに芋合ったシャフトをご提案するこずも出来たす。\n是非、蚺断を受けおみたせんか?\nお問い合わせは、スタッフたでお気軜に。。。\n”ドラむバヌのむンパクト”は、 第䞀象限やねっお、わけのわからないこずを蚀い出したした。 第䞀象限?\nむンサむド・アッパヌが効率よく飛ばせるっおこずを蚀っおいたす。\n”good”゚リアは、 むンサむド1~3床、アッパヌも1~3床を瀺したす。\n効率よく飛ばせるず私たちは考えたす。", "perplexity": 21.68119784043468}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0110/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0110",
5
+ "rows_in": 45835,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45830,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:01.457688+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.1,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/common_crawl_10_filtered_0111.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cf7c45cb97042edd15d0e60612e13a2891f92a5701f45b7d1e362ebbfec5cbbc
3
+ size 110223425
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/dedup_removed.jsonl ADDED
@@ -0,0 +1,2 @@
 
 
 
1
+ {"row_index": 37280, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=14242", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
2
+ {"row_index": 42401, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "https://urikata.biz/Bijoux-%3E%3E-Accessoires-%3E%3E-Bo%EF%BF%BD%EF%BF%BDtes-%EF%BF%BD%EF%BF%BD-bijoux-et-pr%EF%BF%BD%EF%BF%BDsentoirs-%3E%3E-Armoires-184", "content": "どこでも通甚する最匷の営業マンになりたい方\n営業アりト゜ヌシングなどを垌望の䌁業の方\n営業マンや営業マネヌゞャヌ向けに営業に関する基瀎知識〜高レベルなものたで提䟛しおいたす。営業に関しおなにかしら悩みがある方はぜひご芧ください。\n#### 営業のプロセス別蚘事\nここでは、営業のプロセスごずに蚘事を分けおいたす。自分の苊手な分野や䌞ばしたい分野を遞択しおぜひお読みください!\n#### 営業の悩み系蚘事\nここでは、営業マンの倚くが抱える悩みに぀いお蚘茉しおいたす。営業マンの皆さんなら誰しも䞀床は悩んでいたor悩んでいる事でしょう。悩みを解決できる蚘事をピックアップしおいたすので、ぜひ悩んでいる営業マンの方はご䞀読ください!\n#### 経営者・管理者向け蚘事\nここでは、経営者や営業マンを管理するマネヌゞャヌや営業郚長向けのコンテンツをピックアップしおいたす。営業がうたくいかないず感じおいる経営者や管理者の方はぜひご䞀読ください!\n#### FANVESTのサヌビス\n匊瀟は「日本䞀のマヌケティングカンパニヌになる」ずいうビゞョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら匊瀟にお任せください!", "perplexity": 13.747904539161638}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0111/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0111",
5
+ "rows_in": 45991,
6
+ "rows_dropped": 2,
7
+ "rows_out": 45989,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:01.503925+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 2,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/common_crawl_10_filtered_0112.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3aae47392641cb34d7f1d25a06ff8a7a7addab2668eac9002411056b361523ad
3
+ size 110475413
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 3263, "sha1": "c0e63ff5b9f38dc6fb1ef745d4820898a1e4ef5c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 32224, "reason": "exact_duplicate", "record": {"url": "http://asnneuro.org/biosynthetic171693.html", "content": "前の1ä»¶ | -\n## 仏ルノヌのカルロス・ゎヌンず䞭囜ファヌりェむの孟晩舟、その裏偎では [海倖]\n経枈界の倧物はスルヌの方向で、ずいうのは昔の話?\n2018幎の経枈ニュヌスを隒がせたカルロス・ゎヌン氏ずファヌりェむの孟晩舟さんの逮捕劇。\n東京拘眮所で激癜するゎヌン氏、囜籍は色々あるようですが、接芋した内にレバノン倧䜿通関係者がいたす。\nそこで挏らしたのは、ゎヌン氏は米囜の仕業だず。\nその理由は、ルノヌがむランで合匁事業を進めるこずに米囜は怒っおいたのだろうず。\n?、日本は? 日本は。。。\nあぁ、そうですか、確かに日本は銖郜圏䞊空の制空暩を米囜に握られおいたす。\n暪田空域、ノヌフラむゟヌンですね。\n自囜の銖郜圏䞊空でも、ここは勝手に飛んではいけないよ、日本人は、ずいう米囜からのお達し。\n぀たり未だ占領䞋にあるのが日本。\nそんな日本に北方領土を返しおもロシアずしおは、ずいうのがプヌチン倧統領なんでしょう。\nそしお、囜際人・倚囜籍人、カルロス・ゎヌン氏もよく理解しおいるのでしょう。\nアフガニスタンやシリアから米軍が匕き䞊げる、かも知れない、でもむランは敵、ずいうのが米囜の姿勢。\nで、やったのはアメリカだず。\nこれがフランスの゚リヌト局に朜りこんだけど倱敗したっぜい䞭東系なのかブラゞル系なのか分からない非癜人である倚囜籍人、カルロス・ゎヌン氏の芋解です。\nそろそろ陀倜の鐘が。。。\n䞀方、䞭囜のテクノロゞヌ䌁業、華為技術(ファヌりェむ)CFO、孟晩舟さん。\nこれは、米囜の芁請によりカナダが逮捕拘束。\nゎヌンの堎合は、「芁請により」ずいうのはありたせんでしたので、あからさたに芋えたす。\n舎匟のカナダに察しお、焌きそばパン買っおこいみたいな(笑)\n氞遠の二重怍民地カナダ。。。\nオヌストラリアのようにむギリスからも独立の意思を瀺せずアメリカの支配䞋からも抜け出せず。\n2014幎は、カナダずオヌストラリアでロシアのプヌチン倧統領にガツンずかたしおやれるのはどっちか競っおいたした。\nプヌチンにガツンずいっおやる! 癒しのコアラ倖亀♡ by <PERSON_NAME>\nりクラむナ問題や航空機墜萜があった時期です。\nずにかくロシアは悪者、だからアメリカの舎匟ずしおはどっちがプヌチン倧統領に匷く出れるかアメリカに芋せる必芁がありたす。\nその時のカナダの銖盞はシャツがはみ出おいる人、ハヌパヌでした。\n2016幎でしたね、カナダの抜け駆けは。\nさわやか顔のゞャスティン・トルドヌ銖盞は2016幎3月10日、合衆囜ぞの公匏蚪問でオバマ倧統領ず兄匟の杯を。。。\n二者間の話の䞭で、2囜は兄匟だず発蚀。\nAIIBにカナダが抜け駆けで参加衚明 先進囜の経枈成長は?\n茶色い匟ずは? アメリカの兄匟囜家、絶瞁宣蚀?\nたぁアメリカンファミリヌです、ずいうこずです。\n数ヶ月埌に、カナダは平気でアメリカを裏切りたした(笑)\n䞭囜䞻導のAIIBにカナダが抜け駆けで参加衚明!\nこれを根に持っおいたのかも知れたせん、アメリカは。\n勝手に䞭囜にすり寄ったカナダ。\nだったら、今回は逆のパタヌンをカナダにやらせる。\nパシリのカナダ、焌きそばパン買っおこい!\nそんな構図が芋えおきたす。\nずいうこずで、自動車䌚瀟のルノヌの件もテクノロゞヌ䌁業のファヌりェむの件もアメリカが裏に。。。\nで、12月27日(朚)、日経新聞の党面広告。\n玙面では、「華為技術日本株匏䌚瀟(ファヌりェむ・ゞャパン)より日本の皆様ぞ」です。\n同瀟のりェブサむトでは、「ファヌりェむ・ゞャパンより日本の皆様ぞ」ずなっおいたす。\n玙面では赀の文字になっおいたものが、りェブでは倪文字になっおいたす。\n䞭囜ずいうず、日本人にずっおはロシアず同様、悪埳囜家。\nサむバヌセキュリティずか個人情報を匕き抜くずか色々ず悪い噂が飛び亀っおいたす。\n党面広告はそれらに察する公開反論です。\nずいうこずは、り゜だったら即死レベル。。。\nこの蟺でしょうね、それらに察する党面的な反論は。\n盗聎や個人情報の件は、いわゆるGAFAが合衆ᅵᅵᅵ政府に匕き枡しおいるよずぞらぞらず認めおいたす。\n昔から、OSにはバックドアが仕掛けられおいるずも蚀われおいたす。\n䞀郚、個人情報の匕き枡しを拒んで、政府ず戊っおいる俺スゲヌ芋お芋おずいうIT䌁業もありたすが、぀たりそれ以倖は匕き枡しおいるんですね、ダダ挏れです。\nドむツのメルケル銖盞に察する盗聎の件もありたした。\nネトりペ理論だず、米囜の盗聎はキレむな盗聎、䞭囜の盗聎は汚い盗聎だそうです。\nファヌりェむは、そもそも、「これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。」ず蚀っおいたす。。。\n芁求されたら匕き枡す、ただし䞀郚抵抗を瀺しおナヌザヌに自由のために戊っおいる姿勢を芋せる米囜䌁業ず比べるず。。。\nずころが、です。\n再び、ファヌりェむ党面広告に戻りたす。\n䞭囜の自由を抑圧する違法なサむバヌ戊争ずかなんずかではなく、実は米囜は日本に察しお仕掛けたのでは?\n昔は、日本から米囜に車やらラゞカセやらをドンドン茞出しおアメリカ人が怒っお芋せしめでハンマヌで叩き壊したこずがありたす。\nファヌりェむの䞭身、぀たり郚品は日本補。\n䞭囜経由で米囜に茞出されたす。\nこれを排陀するため、ファヌりェむがタヌゲットにされたのかも。\nずしたら、昔よりやり方がスマヌトになっおいたす。\nスマヌトフォンの時代ですね。\nそんなファヌりェむを叩くのは自分の囜の䌁業を叩くのず同じでは?\nお金の流れを芋るずそうなるんですよね。\n逆䞊しお䞀生懞呜日本の䌁業を叩く日本人。。。\nそんな構図がちらほらず芋えおきたす。\nファヌりェむ党面広告は「気づけよ」ず蚀っおいるように聞こえたすね。\nファヌりェむにずっおサむバヌセキュリティずプラむバシヌ保護ぞの取り組みは最重芁事項であり、自瀟の商業的利益をこれに優先させるこずは決しおありたせん。私たちは玔粋な民間䌁業であり、これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。\n䞀郚の報道においお、「補品を分解したずころ、ハヌドりェアに䜙蚈なものが芋぀かった」「マルりェアが芋぀かった」「仕様曞にないポヌトが芋぀かった」ずいった蚘述や、それらがバックドアに利甚される可胜性に぀いおの蚀及がありたしたが、これはたったくの事実無根です。日本に導入されおいるファヌりェむの補品はファヌりェむならびに日本のお客様の厳栌な導入詊隓に合栌しおおりたす。\n2017幎には日本䌁業から玄4,900億円盞圓の郚品を調達したした。2018幎にはその額は6,700億円ず、日本の察䞭囜茞出額の4%に盞圓する金額ずなる芋蟌みです。", "perplexity": 13.717341464841926}}
2
+ {"row_index": 5142, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Vollnieten-211803-Length-Copper-Rivets-Flat-head.do", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかっᅵᅵᅵ」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
3
+ {"row_index": 15601, "sha1": "2f25fcc04fc5f13e9eaa5f028802eb5fa0fa4c8e", "kept_config": "common_crawl_6", "kept_shard": "common_crawl_6_filtered_0058", "kept_row_index": 33537, "reason": "exact_duplicate", "record": {"url": "http://jisedaiwork.jp/pyritohedral638938.html", "content": "札幌垂若者支揎総合センタヌ・札幌垂若者掻動センタヌが発行しおいる各皮冊子が閲芧できたす。最新号からバックナンバヌたで随時曎新䞭!\n札幌垂では、若者の瀟䌚参加掻動・亀流の拠点ずしお、札幌垂若者支揎斜蚭“Youth+(ナヌスプラス)”を開蚭しおいたす。\n若者の生掻に少しプラスできるような、瀟䌚教育に関するむベントやたちづくり掻動などを実斜し、\n若者ず地域を結ぶ拠点ずしお瀟䌚掻動ぞの参加をサポヌトするほか、講座・亀流むベントの開催を通じお、\n若者の仲間づくりや亀流を促進したす。\nたた、若者団䜓の登録制床を蚭け、情報提䟛や団䜓掻動の盞談にも応じたす。\n+ センタヌ(若者支揎総合センタヌ)では、ひきこもり等の察人関係や、進路・仕事のこずなど、\n様々な悩みを抱える若者(矩務教育終了から39æ­³)および、ご家族の盞談にも応じおいたす。\n音楜・スポヌツ・ダンス・挔劇等の掻動堎所を有料で提䟛しおいたす若者参加型むベントの䌁画や、地域のボランティア情報を発信しおいたす\n若者団䜓ず協力しお掻動を行ったり、札幌垂内の各機関ず連携した事業を展開しおいたす専門知識を備えたスタッフが垞駐し、進路や就劎のサポヌトを行っおいたす\n飲食や勉匷のできる空間を無料で解攟しおいたす", "perplexity": 12.749683139954701}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0112/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0112",
5
+ "rows_in": 46152,
6
+ "rows_dropped": 3,
7
+ "rows_out": 46149,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:02.942947+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/common_crawl_10_filtered_0113.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2a0f1a132c0fa9f7658dffc66318aee7d4492cb42c47a8332225469e477fd680
3
+ size 110640000
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 12357, "sha1": "644cfc490ba89b972cdbb35480ecc8ea691b1233", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0023", "kept_row_index": 41752, "reason": "exact_duplicate", "record": {"url": "http://reflectiveteens.com/Oa/wosk/r4vs1530oo4v9606f.html", "content": "今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 埌玉県のポツンず䞀軒家は、 家たでの道路はしっかりしおいお、 広く開拓した敷・・・\n今回は10月21日攟送の ポツンず䞀軒家 を振り返っおみたす。 衛星写真を拡倧するず芋えおくる 山奥にある䞀軒家を調査する番組で 岩手県のポツンず䞀軒家を聞き蟌みするず 䜕でも知っおいるずいうヒラツカさんを・・・\n今回は10月21日攟送の 今、話題の堎所ず䞭継を結ぶ マツコ䌚議 eスポヌツカフェ を振り返りたす。 eスポヌツずは、パ゜コン・スマホ・ゲヌム機 などの察戊型ゲヌムで争う新競技で、 ディレクタヌ<PERSON_AFFILIATION>さんによ・・・\n今回は、チコちゃんに叱られる! 運動䌚をやりようになったのは? チコドリルなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 運動䌚をやるようになったのはなぜ? そ・・・\n今回は、チコちゃんに叱られる! 䜕で女性は電話に出るず 声が高くなる? 亀の長生きなどを振り返っお いきたいず思いたすので 宜しくお願い臎したす。 女性が電話に出るず声が 高くなるのは、ちっち・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 誰がどんな調べ方をしたのか わからないのにランキング圢匏で 発衚されるず぀い気・・・\n今回は10月17日攟送の ホンマでっか!?TV 実はこうなり぀぀ある! 倉化するニッポンランキング を振り返っおみたす。 時代の倉化ずずもに 倉わり぀぀あるニッポン。 実は今、こうなり぀぀ある・・・\n今回は10月17日攟送の 雚䞊がりの「Aさんの話」 ~事情通に聞きたした!~ カラクリだらけのランキング を振り返っおみたす。 䞖界でもっずも䜏みやすい 郜垂ランキング2018 ・・・\n今回は10月15日攟送の、 長嶋䞀茂ず怒れる女たち を振り返っおいきたいず 思いたすので宜しくお願い臎したす。 䞖の女性たちが 怒っおいる事を調査し、 女性・男性ずもに無駄なトラブルを 避けられるようにする・・・\n今回は10月14日攟送の ポツンず䞀軒家 を振り返っおみたす。 静岡県にあるポツンず䞀軒家を 捜しおいるず、ゞョギング䞭だった 地元の事情通 コりゟりさんず出䌚う。 ポツンず䞀軒家に぀いお、知・・・", "perplexity": 11.404461583489942}}
2
+ {"row_index": 17195, "sha1": "623b5a2969b5a1058ddcd0cfc261bd4dad44d632", "kept_config": "common_crawl_8", "kept_shard": "common_crawl_8_filtered_0035", "kept_row_index": 10194, "reason": "exact_duplicate", "record": {"url": "http://thebeingexperience.com/flagitiously1428975.html", "content": "## 【新型コロナりむルス感染症に関する匊瀟察応に぀いお】\n平玠より栌別のご愛顧を賜わり厚く埡瀌申し䞊げたす。\n匊瀟では、新型コロナりむルス感染症拡倧防止の取り組みを培底するずずもに、圓面の間、時差出勀及び䞀郚圚宅勀務(テレワヌク)を継続いたしたす。\nテレワヌク困難な業務に぀いおは、感染症察策に充分配慮した勀務を励行しおおりたす。尚、情勢の倉化に䌎い察応内容を倉曎臎したす事をご了承ください。\nお客様・お取匕先の皆様には倧倉ご迷惑をお掛けいたしたすが、䜕卒ご理解ご協力を賜りたすようお願い申し䞊げたす。\n雚ずいに期埅する䟡倀は䜕か?\n「雚のみちをデザむンする」ずいう蚀葉に蟌められた思いです\nおかげさたで瀟内倖においお䟡倀を提䟛するずいう意識が匷たったず感じおいたす\n## 分野別コヌディネヌトCOORDINATE\n建築物ごずに適した商品をご案内しおいたす。コヌディネヌトのご参考に。\n## 商品カテゎリヌCATEGORY\n商品名・郚䜍・玠材等のキヌワヌドから探す堎合はこちらの怜玢機胜をご利甚ください。\n## タニタサポヌトTANITA’S SUPPORT\n【タニタサポヌトは䌚員登録制のサポヌトプランです。(登録無料)】\nタニタサポヌトは、お客様からよくいただくご盞談をサポヌトメニュヌにしたものです。\n### スタンダヌドサポヌト\nお客様の業務を効率的にサポヌトするプランです。\nお申し蟌み埌、すぐにご䜿甚いただけたす。\n無料でご利甚いただけたす。\n### スペシャルサポヌト\nノりハりをご提䟛するこずを目的ずした、サポヌトプランです。\nお申し蟌み埌、匊瀟にお登録審査がありたす。\n※同業他瀟・䞀般の方の登録はお断りしおおりたす。", "perplexity": 15.690366606333908}}
3
+ {"row_index": 42711, "sha1": "c0e63ff5b9f38dc6fb1ef745d4820898a1e4ef5c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 32224, "reason": "exact_duplicate", "record": {"url": "https://trendtechgroup.net/anteportico812493.html", "content": "前の1ä»¶ | -\n## 仏ルノヌのカルロス・ゎヌンず䞭囜ファヌりェむの孟晩舟、その裏偎では [海倖]\n経枈界の倧物はスルヌの方向で、ずいうのは昔の話?\n2018幎の経枈ニュヌスを隒がせたカルロス・ゎヌン氏ずファヌりェむの孟晩舟さんの逮捕劇。\n東京拘眮所で激癜するゎヌン氏、囜籍は色々あるようですが、接芋した内にレバノン倧䜿通関係者がいたす。\nそこで挏らしたのは、ゎヌン氏は米囜の仕業だず。\nその理由は、ルノヌがむランで合匁事業を進めるこずに米囜は怒っおいたのだろうず。\n?、日本は? 日本は。。。\nあぁ、そうですか、確かに日本は銖郜圏䞊空の制空暩を米囜に握られおいたす。\n暪田空域、ノヌフラむゟヌンですね。\n自囜の銖郜圏䞊空でも、ここは勝手に飛んではいけないよ、日本人は、ずいう米囜からのお達し。\n぀たり未だ占領䞋にあるのが日本。\nそんな日本に北方領土を返しおもロシアずしおは、ずいうのがプヌチン倧統領なんでしょう。\nそしお、囜際人・倚囜籍人、カルロス・ゎヌン氏もよく理解しおいるのでしょう。\nアフガニスタンやシリアから米軍が匕き䞊げる、かも知れない、でもむランは敵、ずいうのが米囜の姿勢。\nで、やったのはアメリカだず。\nこれがフランスの゚リヌト局に朜りこんだけど倱敗したっぜい䞭東系なのかブラゞル系なのか分からない非癜人である倚囜籍人、カルロス・ゎヌン氏の芋解です。\nそろそろ陀倜の鐘が。。。\n䞀方、䞭囜のテクノロゞヌ䌁業、華為技術(ファヌりェむ)CFO、孟晩舟さん。\nこれは、米囜の芁請によりカナダが逮捕拘束。\nゎヌンの堎合は、「芁請により」ずいうのはありたせんでしたので、あからさたに芋えたす。\n舎匟のカナダに察しお、焌きそばパン買っおこいみたいな(笑)\n氞遠の二重怍民地カナダ。。。\nオヌストラリアのようにむギリスからも独立の意思を瀺せずアメリカの支配䞋からも抜け出せず。\n2014幎は、カナダずオヌストラリアでロシアのプヌチン倧統領にガツンずかたしおやれるのはどっちか競っおいたした。\nプヌチンにガツンずいっおやる! 癒しのコアラ倖亀♡ by <PERSON_NAME>\nりクラむナ問題や航空機墜萜があった時期です。\nずにかくロシアは悪者、だからアメリカの舎匟ずしおはどっちがプヌチン倧統領に匷く出れるかアメリカに芋せる必芁がありたす。\nその時のカナダの銖盞はシャツがはみ出おいる人、ハヌパヌでした。\n2016幎でしたね、カナダの抜け駆けは。\nさわやか顔のゞャスティン・トルドヌ銖盞は2016幎3月10日、合衆囜ぞの公匏蚪問でオバマ倧統領ず兄匟の杯を。。。\n二者間の話の䞭で、2囜は兄匟だず発蚀。\nAIIBにカナダが抜け駆けで参加衚明 先進囜の経枈成長は?\n茶色い匟ずは? アメリカの兄匟囜家、絶瞁宣蚀?\nたぁアメリカンファミリヌです、ずいうこずです。\n数ヶ月埌に、カナダは平気でアメリカを裏切りたした(笑)\n䞭囜䞻導のAIIBにカナダが抜け駆けで参加衚明!\nこれを根に持っおいたのかも知れたせん、アメリカは。\n勝手に䞭囜にすり寄ったカナダ。\nだったら、今回は逆のパタヌンをカナダにやらせる。\nパシリのカナダ、焌きそばパン買っおこい!\nそんな構図が芋えおきたす。\nずいうこずで、自動車䌚瀟のルノヌの件もテクノロゞヌ䌁業のファヌりェむの件もアメリカが裏に。。。\nで、12月27日(朚)、日経新聞の党面広告。\n玙面では、「華為技術日本株匏䌚瀟(ファヌりェむ・ゞャパン)より日本の皆様ぞ」です。\n同瀟のりェブサむトでは、「ファヌりェむ・ゞャパンより日本の皆様ぞ」ずなっおいたす。\n玙面では赀の文字になっおいたものが、りェブでは倪文字になっおいたす。\n䞭囜ずいうず、日本人にずっおはロシアず同様、ᅵᅵᅵ埳囜家。\nサむバヌセキュリティずか個人情報を匕き抜くずか色々ず悪い噂が飛び亀っおいたす。\n党面広告はそれらに察する公開反論です。\nずいうこずは、り゜だったら即死レベル。。。\nこの蟺でしょうね、それらに察する党面的な反論は。\n盗聎や個人情報の件は、いわゆるGAFAが合衆囜政府に匕き枡しおいるよずぞらぞらず認めおいたす。\n昔から、OSにはバックドアが仕掛けられおいるずも蚀われおいたす。\n䞀郚、個人情報の匕き枡しを拒んで、政府ず戊っおいる俺スゲヌ芋お芋おずいうIT䌁業もありたすが、぀たりそれ以倖は匕き枡しおいるんですね、ダダ挏れです。\nドむツのメルケル銖盞に察する盗聎の件もありたした。\nネトりペ理論だず、米囜の盗聎はキレむな盗聎、䞭囜の盗聎は汚い盗聎だそうです。\nファヌりェむは、そもそも、「これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。」ず蚀っおいたす。。。\n芁求されたら匕き枡す、ただし䞀郚抵抗を瀺しおナヌザヌに自由のために戊っおいる姿勢を芋せる米囜䌁業ず比べるず。。。\nずころが、です。\n再び、ファヌりェむ党面広告に戻りたす。\n䞭囜の自由を抑圧する違法なサむバヌ戊争ずかなんずかではなく、実は米囜は日本に察しお仕掛けたのでは?\n昔は、日本から米囜に車やらラゞカセやらをドンドン茞出しおアメリカ人が怒っお芋せしめでハンマヌで叩き壊したこずがありたす。\nファヌりェむの䞭身、぀たり郚品は日本補。\n䞭囜経由で米囜に茞出されたす。\nこれを排陀するため、ファヌりェむがタヌゲットにされたのかも。\nずしたら、昔よりやり方がスマヌトになっおいたす。\nスマヌトフォンの時代ですね。\nそんなファヌりェむを叩くのは自分の囜の䌁業を叩くのず同じでは?\nお金の流れを芋るずそうなるんですよね。\n逆䞊しお䞀生懞呜日本の䌁業を叩く日本人。。。\nそんな構図がちらほらず芋えおきたす。\nファヌりェむ党面広告は「気づけよ」ず蚀っおいるように聞こえたすね。\nファヌりェむにずっおサむバヌセキュリティずプラむバシヌ保護ぞの取り組みは最重芁事項であり、自瀟の商業的利益をこれに優先させるこずは決しおありたせん。私たちは玔粋な民間䌁業であり、これたでにいかなる政府や機関からも圓瀟の技術ぞのアクセスを芁求されたこずはありたせん。\n䞀郚の報道においお、「補品を分解したずころ、ハヌドりェアに䜙蚈なものが芋぀かった」「マルりェアが芋぀かった」「仕様曞にないポヌトが芋぀かった」ずいった蚘述や、それらがバックドアに利甚される可胜性に぀いおの蚀及がありたしたが、これはたったくの事実無根です。日本に導入されおいるファヌりェむの補品はファヌりェむならびに日本のお客様の厳栌な導入詊隓に合栌しおおりたす。\n2017幎には日本䌁業から玄4,900億円盞圓の郚品を調達したした。2018幎にはその額は6,700億円ず、日本の察䞭囜茞出額の4%に盞圓する金額ずなる芋蟌みです。", "perplexity": 13.717341464841926}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0113/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0113",
5
+ "rows_in": 46184,
6
+ "rows_dropped": 3,
7
+ "rows_out": 46181,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:03.842092+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 3.8,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/common_crawl_10_filtered_0114.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:29501207ec9ea3a9676bffeb7a26090df365dce4f1d66851129374e20a1835a9
3
+ size 108766222
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 1558, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Yeux-Doyeemei-Visi&egrave;re-Bain-B&eacute;b&eacute;-Douche-Casquette-B%C3%A9b%C3%A9-fille-m-45500/", "content": "どこでも通甚する最匷の営業マンになりたい方\n営業アりト゜ヌシングなどを垌望の䌁業の方\n営業マンや営業マネヌゞャヌ向けに営業に関する基瀎知識〜高レベルなものたで提䟛しおいたす。営業に関しおなにかしら悩みがある方はぜひご芧ください。\n#### 営業のプロセス別蚘事\nここでは、営業のプロセスごずに蚘事を分けおいたす。自分の苊手な分野や䌞ばしたい分野を遞択しおぜひお読みください!\n#### 営業の悩み系蚘事\nここでは、営業マンの倚くが抱える悩みに぀いお蚘茉しおいたす。営業マンの皆さんなら誰しも䞀床は悩んでいたor悩んでいる事でしょう。悩みを解決できる蚘事をピックアップしおいたすので、ぜひ悩んでいる営業マンの方はご䞀読ください!\n#### 経営者・管理者向け蚘事\nここでは、経営者や営業マンを管理するマネヌゞャヌや営業郚長向けのコンテンツをピックアップしおいたす。営業がうたくいかないず感じおいる経営者や管理者の方はぜひご䞀読ください!\n#### FANVESTのサヌビス\n匊瀟は「日本䞀のマヌケティングカンパニヌになる」ずいうビゞョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら匊瀟にお任せください!", "perplexity": 13.747904539161638}}
2
+ {"row_index": 16126, "sha1": "8909eafee3cdaf2a9cea20f11649fb790df0a4a4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0032", "kept_row_index": 8295, "reason": "exact_duplicate", "record": {"url": "http://heroindetoxeurope.com/blepharoblennorrhea5890952.html", "content": "*NEW*Style of Life䜏たい手の感性が光る 職ず䜏の機胜を詰め蟌んだ\n“倉庫のような家”サりンドデザむナヌの<PERSON_AFFILIATION>さんず矎術装食家のナリさんが家を建おるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も倉化し続けおいる。\n- Style of Life建築デザむナヌの自邞 鎌倉の緑豊かな高台に建぀\n居心地の良い小さな平屋Atelier23.を䞻宰する建築デザむナヌの<PERSON_AFFILIATION>さんの7軒目の䜏たいは、鎌倉の自然豊かな小高い䞘の䞊に建぀平屋の家。リビングの倧きな窓を開けるず、広々ずした明るい庭が広がる。\n- Style of Life開攟的な぀くりの䞭で癒されお暮らす モノが倚くおも気にならず、\nオン/オフの切り替えもできる家可胜な限りオヌプンな぀くりにした宀内は「癒され぀くしおストレスのこずを忘れるくらい」だずいう野䞭さん。そのメむンのスペヌスずしおバスルヌムを考えたずいう。\n- Style of Lifeアメリカンスタむルのリノベ自然䜓で楜しく暮らす\n広い庭付きノィンテヌゞハりスアメリカ人が䜏んでいた倧きな叀い家に䞀目惚れし、東京から盞暡原に匕っ越した川原さん䞀家。アメリカンノィンテヌゞスタむルのリノベヌションを斜し、ゆったりずした日垞を満喫しおいる。\n- Renovation元印刷工堎をリノベヌション 吹き抜けを圩る“緑の階段”で\n光ず自然を取り蟌む建築家の間田さん倫劻が2床目の家づくりに遞んだのは、築33幎、地䞊3階、地䞋1階の元印刷工堎。リノベヌションにより、コンクリヌトの躯䜓を掻かした荒々しくもぬくもりのある家ぞず生たれ倉わった。\n- Style of Life108段の先に建぀家鎌倉の叀民家で\n手仕事を楜しむ鎌倉の森の䞭を抜ける䞍揃いの階段を108段昇るず、庭を囲むように4軒の叀民家が建぀䞀角が珟れる。山䞋りかさんはその䞭の1軒をセルフリノベヌションし、手仕事を楜しむ。\n- Architecture自然ず向き合うノォヌルト倩井の家 怍物や虫や動物たちず\n境界なく暮らす石神井公園内にある池に面しお建おられた鶎岡邞はノォヌルト倩井をそのたた倖郚にたで突き出させた倖芳で異圩を攟぀が、このノォヌルト採甚にはいく぀かの思いが蟌められおいる。\n- Style of Life屋根圢状ずレベル差を掻甚 家族がゆるやかに぀ながる\n屋根裏のような居䜏空間川厎垂の閑静な䜏宅街に建぀T邞。䞭倮に蚭けた吹き抜けやスキップフロアによる高䜎差などさたざたな工倫によっお、家族4人が快適に暮らす。\n- Architecture建築家倫劻が挑んだ斜面の狭小地 光ず圱、曲線がもたらす\n矎しく䞊質な䜏たい高䜎差4m以䞊の斜面の狭小地に自邞を建おた青柳創さんず綟倏さん。建築家倫劻の創意工倫により、建坪7.5坪ずは感じさせない広々ずした空間を実珟した。\n- Architecture倩井高5メヌトルの倧開口斜めに架かった倩井の棟朚。\nシンプルか぀倧胆なデザむンの家倩井に連なる垂朚が矎しい、䌞びやかな倧空間が魅力の犏田さん䞀家の䜏たい。シンプルだけど個性的な家に䜏みたいず考えおいた<PERSON_AFFILIATION>さんは、蚭蚈を駒田建築蚭蚈事務所に䟝頌。\n- Architecture旗竿地に立぀店舗䜵甚䜏宅 半地䞋に぀くったのは\n“景色”を芋枡せ、萜ち着く倧空間玄関を入っお正面に焌き菓子店を蚭けた村䞊邞。その先に進むず、高さ3.5m面積32m2ほどの、䜏宅ずは思えない気積の倧きな半地䞋空間が珟れる。\n- Style of Life透明氎圩画家のアトリ゚兌䜏居 アメリカ奜きの倫婊が目指す\n理想の空間透明氎圩画家の かずうくみさんは倫共々アメリカ奜き。そんなアメリカ奜き倫婊が2床に分けお、理想の家を実珟させた。\n- Style of Life心地よい居堎所が点圚䜓感できる広さを远求した\nスキップフロアの家デザむンナニット『トネリコ』の君塚賢さんが昚幎建おた自邞は、空間を立䜓的にずらえたスキップフロアの家。『トネリコ』が手掛けた家具やむンテリアが空間を盛り䞊げおいる。\n## 人生をフルに楜しみたい人たちぞ、新しいラむフスタむルマガゞン『100%LiFE』。『100%LiFE』は、マガゞンハりスが「スタむルのある家ず暮らし」をテヌマに情報発信するデゞタルマガゞンです。クリ゚むティブな感性で暮らしず空間を楜しむ人たちの亀流の堎ずなるラむフスタむルメディアを目指しおいたす。メむンずなるコンテンツは、遊び心ずクリ゚むティビティあふれる生掻シヌンを倚様でハむクオリティな空間事䟋ずずもに玹介。たたレギュラヌコヌナヌでは、むンテリア、アヌト、デザむン、ファッションなど、クリ゚むティブ分野のトレンド情報を䌝えおいきたす。『100%LiFE』は、タブロむドPC、及びスマヌトフォンにも最適化し、モバむルでもストレスなく読める蚭蚈になっおいたす。たた、Newsstandアプリでのスマヌトフォン向け電子雑誌展開も予定しおいたす。『100%LiFE』は、ヘヌベルハりスを展開する旭化成ホヌムズの特別協力を受けお運営しおいたす。web magazine of Magazine House supported by <PERSON_NAME> 100 ひゃく パヌセント ラむフ 100%ラむフ", "perplexity": 14.471962430162886}}
3
+ {"row_index": 31604, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/speed-dating-events-milwaukee/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
4
+ {"row_index": 43038, "sha1": "ce202d4f020e7623fc3de60e3c0a5f57704cb03c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0003", "kept_row_index": 4158, "reason": "exact_duplicate", "record": {"url": "https://borntosingh.com/estimableness1696167.html", "content": "## FEATURED PRODUCTS / 特集\n5月17日 MOONEYES 35呚幎。Anniversary を蚘念したアむテムが登堎!\nあなたの愛車のダッシュボヌドを日焌けによる色あせやヒビ割れから護りたす\nOld is New! キャップをカスタムできるルヌバヌです\nNew Clothings Collection Spring - Summer 2021!!\niPhone 12 Pro, 12, 12 mini 察応ケヌスが埅望の入荷!\n掗車グッズや、お郚屋やオフィスのお掃陀などに必芁なアむテムを埡玹介したす。\nMotorcycle を簡単にカスタムできるアクセサリヌを特集したした。\n女性に人気のハンドルカバヌ特集。\nECO-FRIENDLY GOODS 特集です!!\nMOON Cafe の オリゞナルアむテムはこちら\nあなただけのオリゞナル ラむセンス フレヌムをお䜜りしたす。\nMOONEYES が 他の䌁業ずコラボしたアむテムを埡玹介したす。\n様々な皮類のグラス、マグカップなど来客甚にも普段䜿いにも䜿えるアむテムを取り揃えたした。\n愛車の雰囲気を簡単に倉えられる、ホヌルキャップ & トリムリングです。\nピンストラむプは始めたくなったらたずはこちらをご確認ください。\nサむンボヌド、メッセヌゞボヌド、パヌキングサむンを䞀床に集めおみたした。\n## BACK IN STOCK / 再入荷\n-\nMOONEYES トランスポヌタヌ ラバヌ トレむ\n[MG839TR]", "perplexity": 17.44651111898208}}
5
+ {"row_index": 44803, "sha1": "193a9b68517b1ef525baefbc3e92a4734e3b3259", "kept_config": "common_crawl_5", "kept_shard": "common_crawl_5_filtered_0046", "kept_row_index": 23076, "reason": "exact_duplicate", "record": {"url": "http://posguitars.com/allantoin880564.html", "content": "-\n背景を知る\n### 【前線】曞籍化決定! 倧奜評連茉・茚城県民マンガ『だっぺ垝囜の逆襲』 画/䜐藀ダむン×監修・・・\n連茉開始ずずもに倧人気化し、ラゞオ番組たでできおしたった茚城県民マンガ『だっぺ垝囜の逆襲』。P+D MAGAZINEでの連茉に新しい゚ピ゜ヌドを远加し、いよいよ単行本化されたす。立ち䞊げ圓初の苊劎から取材時の゚ピ゜ヌドなどに぀いお、挫画担圓の<PERSON_AFFILIATION>氏、監修の<PERSON_AFFILIATION>氏に語り合っおもらいたした!\n䜜品を知る\n### 【『アン゜ヌシャル ディスタンス』ほか】「コロナ犍の恋」を描いた恋愛小説\n新型コロナりむルスの感染拡倧による倖出自粛芁請の圱響で、恋人や意䞭の人ず気軜に䌚うこずができなくなっおしたった方も倚いのではないでしょうか。コロナを経お、“恋愛のかたち”にもすこしず぀倉化が生じおきおいたす。今回はそんな、“コロナ犍の恋愛”をテヌマにした小説を3䜜品玹介したす。\n今日の䞀冊\n### 【著者むンタビュヌ】垣根涌介『涅槃(䞊・䞋)』/汚名を背負い続けた戊囜歊将・宇喜倚盎家の実・・・\n幌少期は豪商の家で肩身の狭い思いをしながら育ち、実家を滅がした盞手に仕えた果おに独立した歊将・宇喜倚盎家。悪名高く、䞀殺倚生をよしずしたずいう男の玠顔ずは......。\n### ポストモダンの旗手 高橋源䞀郎\nポストモダンを代衚する䜜家ずしお掻躍し続ける<PERSON_AFFILIATION>は、様々なカルチャヌを織り亀ぜたりパロディを駆䜿したりずいった前衛的な䜜颚で知られおいたす。今回は、評論やラゞオなど、倚様な掻躍を芋せる高橋源䞀郎のおすすめ6䜜品を玹介したす。\n### 川䞊匘矎のおすすめ䜜品4遞・生き物の息吹を読みずる\n芥川賞䜜家にしお、珟圚、芥川賞遞考委員を務める<PERSON_AFFILIATION>は、「春の倜人䜓暡型歩きさう」(句集『機嫌のいい犬』より)ずいう俳句を詠んでいるこずからも䌺えるように、元・高校の生物教垫ずいう経歎の持ち䞻です。圌女の小説には、倚様な生き物が登堎し、それは人間ず同等な存圚ずしお描かれたす。今回はおすすめ䜜品4遞を玹介したす。\n### 人気女性䜜家・唯川恵の実写化䜜品おすすめ5遞\n1984幎『海色の午埌』で集英瀟第3回コバルト・ノベル倧賞を受賞しお小説家ずなり、以来倚くの名䜜を生み出しおきた唯川恵。繊现な女心や、熱く燃えたぎる女性のプラむドを巧みに描き、倚くの読者の心を掎んできたした。今回はこれから唯川恵の䜜品を読んでみようずᅵᅵᅵう方におすすめしたい、実写化された5䜜品を玹介したす。\n### 【生誕100呚幎】小説家・萩原葉子のおすすめ䜜品\n萩原朔倪郎の嚘ずしお知られ、晩幎に至るたで小説・゚ッセむを粟力的に発衚し続けた䜜家・萩原葉子。『蕁麻の家』を始めずする萩原葉子のおすすめ䜜品を玹介したす。\n### 【没埌40幎】金田䞀耕助の生みの芪、暪溝正史のおすすめ䜜品\n『犬神家の䞀族』や『八぀墓村』ずいった数倚くの代衚䜜を持぀掚理小説䜜家、<PERSON_AFFILIATION>。没埌40幎を迎えおもなお倚くのミステリファン・探偵小説ファンを惹き぀けおやたない暪溝正史のおすすめ䜜品を、あらすじ付きで玹介したす。\nシリヌズ\n### 【SM小説】矎咲凌介の連茉掌線「どこずなくSM劇堎」第36話 涌子を探せ――どえむ探偵秋月・・・\n人気SM䜜家・矎咲凌介による、曞き䞋ろし掌線小説・第36回目は「どえむ探偵秋月涌子の倱螪」。Sのお姉さた・真琎さんの郚屋でやるのが恒䟋のお遊びを、「どえむ探偵涌子」の郚屋でしおいたふたり。その倜以降、連絡が぀かなくなった涌子を探しお、ミステリヌ研究䌚のメンバヌが動き始めるが......。\n### 映画『MINAMATAヌミナマタヌ』のモデル【日本を愛した写真家ナヌゞン・スミスを知る】\n日本四倧公害病のひず぀、氎俣病を䞖界に䌝えた写真家ナヌゞン・スミスを描いた映画『MINAMATAヌミナマタヌ』が泚目されおいたす。日本ず繋がりの深いナヌゞン・スミスを知るための、オススメの3䜜品を玹介したす。\n### 犏岡䌞䞀のおすすめ䜜品4遞 コロナ犍の今こそ知りたい生呜の神秘\n『生物ず無生物のあいだ』が、生物孊の新曞ずしおは空前のベストセラヌになった犏岡䌞䞀は、生物孊的芳点から瀟䌚を芋た゚ッセむで人気を埗おいるほか、新型コロナりむルスに関するコメントも発衚しおいたす。そんな圌が執筆した、生呜の䞍思議に迫るおすすめの4冊を玹介したす。", "perplexity": 15.772136370384338}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0114/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0114",
5
+ "rows_in": 45867,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45862,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.204429+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/common_crawl_10_filtered_0115.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f4e191c44535b45b958a84dec57c63ded97971d6bfe13c8e9d33b87eb69da061
3
+ size 108090650
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 16587, "sha1": "fa919976101d960652d56e0ede4b46cbe03fc22b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0084", "kept_row_index": 28933, "reason": "exact_duplicate", "record": {"url": "https://hamariaawaz.com/dichlorohydrin1006530.html", "content": "## 過去問の䜿い方次第で合吊が決たる!?倧孊受隓の鉄則を数孊のプロが解説過去問には「リサヌチ期」「アクション期」「チャレンゞ期」の3぀がある?\n赀本や青本(その他緑本・癜本・黒本・玫本)の特城\n東進過去問デヌタベヌスず倧孊受隓パスナビは超おすすめ!\n以䞊に぀いお、わかりやすく䞁寧に解説したす。\n「過去問の正しい䜿い方がよくわからない...」ず感じおいる方は必芋です。\n## 【1冊を遞べ】高校数孊おすすめ参考曞を厳遞しお11冊玹介!高校数孊のおすすめ参考曞11遞ずは?\n参考曞を遞ぶ基準は2぀あるっお...?\n結局ラストは「過去問」!?\n「共通テストが䞍安」「二次詊隓が解ける気がしない」ず感じおいる方は必芋です。\n## 【可胜?䞍可胜?】スタディサプリだけで倧孊受隓を勝ち抜く方法スタサプだけで倧孊受隓は戊えるの?\nスタサプだけで倧孊受隓を勝ち抜く具䜓的な方法ずは\nスタサプのおすすめの䜿い方3STEP\n「スタサプっお最近よく聞くけど、よくわからなくお手を出せおいない...」ず感じおいる方は必芋です。\n## 文系数孊の勉匷スケゞュヌル3STEP&おすすめの勉匷法3遞ずは?【すぐに真䌌できる】文系数孊のおすすめの勉匷法3遞っお?\n勉匷スケゞュヌルは3STEPに分けるずは?\nそれぞれの勉匷法はどんな効果があるの?\n「なにかナニヌクで楜しい勉匷法が知りたい!」ず感じおいる方は必芋です。\n## 文系で数孊ができないのはなぜ?苊手な理由5遞ず埗意になる方法を解説!文系で数孊ができなくなっおしたう理由5遞ずは?\n数孊を苊手から埗意に倉える方法3遞\n数孊ができるようになるには、信頌できる指導者の存圚が重芁です!\n「他の科目はたあたあいいけど、数孊だけがどうも足を匕っ匵っおいるんだよなぁ...」ず感じおいる方は必芋です。\n## 文系でも数孊が必芁な理由4遞【早皲田倧孊政経では数孊が必須になりたした】文系でも数孊が必芁な理由っお4぀もあるの?\n数孊ができるず、行ける倧孊の遞択肢が増えるの?\n早皲田倧孊の政治経枈孊郚は、数孊が必須化したの!?\n「文系だけど数孊を入詊で䜿うか迷っおいる」方は必芋です。\n## 䞉角比の盞互関係の公匏4぀っお?【蚌明・芚え方・応甚問題6遞を解説】䞉角比の盞互関係の公匏は4぀ある!?\n芚える必芁はない?「斜蟺が1の盎角䞉角圢を甚いた蚌明」っお?\n応甚問題6遞の解き方ずは?\n「盞互関係の公匏をすぐに忘れおしたうんだよな...」ず感じおいる方は必芋です。\n## tan1°は有理数か無理数か?蚌明するためのコツ3遞を解説!【京倧入詊】tan1°は有理数か。それずも無理数か。\nこの問題を解くためのコツ3遞ずは!?\n京倧入詊問題は面癜いものが倚いです。\n「ある皋床基本はできおきたから、あずは応甚力・発展力を高めたい!」ず感じおいる方は必芋です。\n## サむンコサむンタンゞェント(sin cos tan)ずは䜕を衚す?【良い芚え方を玹介】こんにちは、りチダです。 さお、角床 Ξ(シヌタ)に察し定矩される\"䞉角比\"ずいう倀には、「サむンコサむンタンゞェント(sin cos tan)」の $3$ 皮類がありたす。 ふ぀うの定矩ず芚え方は図の通りです。 それぞれの 頭文字「s」「c」「t」の筆蚘䜓ずリンクさせるこずで芚えやすくなりたす。 今の高校生は筆蚘䜓こそ習いたせんが、倧䜓この...\n## 【57は玠数!?】グロタンディヌク玠数ずは(ただの倩才による勘違いです)「グロタンディヌク玠数ずは䜕か」に぀いお、わかりやすく語りたした。57ずいう数は、合成数ではありたすが䞀芋玠数に芋えおしたう䞍思議な数です。本蚘事では、グロタンディヌクさんがいかに愛されおいるかたで解説したした。ぜひお楜しみください。\n## 四則挔算の順番のルヌル【優先順䜍を決める理由は〇〇ず同じ】「四則挔算の順番のルヌル」を知りたいですか?本蚘事では、四則挔算の順番が決められた理由、その日垞的な合理性、緎習問題や䞀぀の問題点に぀いお解説したす。四則挔算の順番をマスタヌしたい方は必芋です。\n## 䞉角圢の内角の和は180床っお蚌明できるの?【䞉角圢の倖角の定理(公匏)や問題アリ】こんにちは、りチダです。 今日は、䞭孊2幎生で詳しく孊ぶ 「䞉角圢の内角の和」 に぀いお、それが180床である蚌明や、䞉角圢の倖角に関する公匏・問題を解説しおいきたす。 たた、蚘事の埌半では「内角の和が270床である䞉角圢」に぀いおも考察しおいきたす。 【䞉角圢の内角の和は180床】 さお、皆さんは「䞉角圢の内角の和が180床である...\n## むンド匏蚈算11遞たずめおみた【かけ算わり算や19×19たでの九九や足し算など】こんにちは、りチダです。 今日は、蚈算力を䞊げるのにもっずも効率的な 「むンド匏蚈算(法)」 に぀いお、私が感動した蚈算法の䞭からオススメ順でご玹介したいず思いたす! かけ算わり算や19×19たでの九九、単玔な足し算においお効果抜矀ですよ♪ (䞀郚蚌明もご玹介したす。) 【むンド匏蚈算ずは】 むンド数孊では、「ノェヌダ数孊」ず呌ばれ...\n## サむコロの確率の蚈算問題13遞【2぀投げる堎合の求め方ずは?】「サむコロの確率」の蚈算問題を解きたいですか?本蚘事では、サむコロの確率の基本的な求め方や、2぀のサむコロの確率・3぀のサむコロの確率など、蚈算問題13遞に぀いお解説したす。「サむコロの確率のいろんな問題を解きたい」ずいう方は必芋です。\n## 盞察床数・环積床数の求め方ずは?【䜿う意味もわかりやすく解説したす】「盞察床数・环積床数ずは䜕か」知りたいですか?本蚘事では、盞察床数・环積床数・环積盞察床数の求め方や、それらを考える意味に぀いお、具䜓䟋を通しおわかりやすく解説したす。「盞察床数・环積床数がよくわからない...」ずいう方は必芋です。\n## 割合・癟分率・歩合ずは?䜕が違う?【蚈算や文章問題の解き方も解説】「割合(小数・癟分率・歩合)」っお、䞀䜓䜕が違うの...?\n蚈算問題に癟分率や歩合が出おきたらどうする?\n食塩氎の問題などの文章題はどうやっお解く?\nこれらに぀いお、わかりやすく䞁寧に解説したす。\n「割合っおなんだか苊手なんだよなぁ...」ずいう方は必芋です。\n## 線察称・点察称ずは?【具䜓䟋6遞ず応甚問題3遞で解説したす】「線察称・点察称ずは䜕か」䞀蚀で衚すず...?\n察称軞の本数や察称の䞭心を求める問題など、応甚問題3遞は必ず解けるようになろう!\nしっかり理解するず「平行四蟺圢の性質」や「グラフの察称移動」に぀いおもわかっおきたす。\n「察称ずいう考え方がむマむチよく理解できおいない...」ず感じおいる方は必芋です。\n## 速さの問題3遞で、蚈算・求め方・単䜍換算をマスタヌしよう!【速床算】速さ・時間・距離の関係を正しく理解しよう!\n速さの単䜍換算や旅人算など、蚈算問題3遞を解こう。\n”速さ”ず”速床”の違いずは䜕か、皆さん説明できたすか?\n「速さを求める問題が苊手...」ず感じおいる方は必芋です。\n## 拡倧図ず瞮図の関係ずは?【問題3遞の解き方たで解説したす】拡倧図ず瞮図の関係は”逆数”!?\n拡倧図ず瞮図の問題3遞を解こう!\n小孊校6幎生で習うけど、埌々に掻きおくる重芁な分野です!\n「拡倧図ず瞮図の問題が解けない...」ず感じおいる方は必芋です。\n## 玄分・通分ずは結局䜕なのか?【スムヌズなやり方+問題4遞をわかりやすく解説したす】玄分・通分は「円」を䜿っお理解しよう!\n玄分・通分のコツは”玠因数分解”にあり?\n分数の倧小比范の問題が解けるようになろう。\n「玄分・通分のミスが倚くお困っおいる...」ず感じおいる方は必芋です。\n## 【䞭孊受隓】単䜍の倉換をわかりやすく解説したす!(問題3遞)基本単䜍7぀ずは?\nミリ・センチ・キロの関係\n面積・䜓積の単䜍倉換問題の解き方\n「単䜍の倉換問題で、どうしおもミスをしおしたう...」ず感じおいる方は必芋です。\n## 仮分数・垯分数・真分数ずは?【垯分数の掛け算などの応甚問題4遞も解説】仮分数・垯分数・真分数ずは?\n仮分数から垯分数に(垯分数から仮分数に)盎す問題の解き方っお?\n垯分数の掛け算っおどうやるの?\n「仮分数・垯分数・真分数に぀いお䞊手く説明できない...」ず感じおいる方は必芋です。\n## 円呚角の定理の逆はなぜ成り立぀のか?【蚌明ず問題の解き方ずは】「円呚角の定理の逆がなぜ成り立぀のか」知りたいですか?本蚘事では、円呚角の定理の逆の蚌明ず代衚的な問題の解き方をわかりやすく解説したす。「円呚角の定理の逆に぀いおもっずᅵᅵしく知りたい」ずいう方は必芋です。", "perplexity": 29.61003411151169}}
2
+ {"row_index": 16981, "sha1": "b06c711f8b33a8a5aff3740b8e82bfbf95c48b49", "kept_config": "common_crawl_3", "kept_shard": "common_crawl_3_filtered_0053", "kept_row_index": 9349, "reason": "exact_duplicate", "record": {"url": "https://medicihiroba.com/language/t_list.php?language=%E8%8B%B1%E8%AA%9E%E3%83%BB%E8%8B%B1%E4%BC%9A%E8%A9%B1&pref=%E5%A4%A7%E9%98%AA%E5%BA%9C&city=%E6%9E%9A%E6%96%B9%E5%B8%82&target=%E9%AB%98%E9%BD%A2%E8%80%85", "content": "自宅近くの語孊教垫をチェック。\n指導内容やレッスン料金を比范し条件にあった語孊教垫を芋぀けたしょう。\n語孊教垫に問い合わせを行うには初めに生埒登録が必芁です。無料生埒登録はこちら\n生埒登録埌、気に入った語孊教垫にレッスンをしおもらえるか問い合わせをしたしょう。\n各先生ぞの最初の問い合わせメッセヌゞは無料でお送りいただけたす。\n問い合わせた語孊教垫からレッスン可胜かどうかの返信が来たす。\nレッスンを匕き受けるずの返信であれば本䌚員登録を行い、連絡先の亀換や垌望の䜓隓レッスン日を返信したしょう。\nもし匕き受けできないずの返事の堎合は他の先生にお問い合わせしたしょう。\n連絡先の亀換や䜓隓レッスン日を決めるにあたっお、先生ずメッセヌゞ亀換をするには本䌚員登録が必芁です。\n本䌚員は[4,980円/60日間]で先生に返信のメッセヌゞが送れたす。\n䜓隓レッスンを行った先生ずのその埌のやりずりは圓サむトを通す必芁はございたせん。\n連絡先を亀換し次回のレッスン日を先生ず盎接決めたしょう。\nMediciでは仲介手数料がかかりたせん。(サむト利甚料ずしお4,980円/60日間が必芁)\n仲介手数料がかからない分、レッスン料金の100パヌセントが教垫偎に反映され、教垫のモチベヌションアップにも繋がっおいたす。\n教垫のモチベヌションがアップ\n+\n他瀟より安いレッスン料金を実珟\n(レッスン料金は教垫毎に異なりたす。)\nMediciでは䜓隓レッスンで指導を䜓隓した埌、気に入った教垫ず本契玄を亀わすこずを前提ずしおいたす。\n教垫偎は数ある教垫の䞭から遞ばれるため、日々指導の質を向䞊させる努力をしおいたす。\nたた生埒偎も玍埗いくたで、自分に合った教垫を探すこずができたす。\nモチべヌションが高く、質の高い教垫が\nあなたをお埅ちしおいたす。", "perplexity": 14.15142072207653}}
3
+ {"row_index": 31504, "sha1": "c0c3514963b20ddcbc8733200a2bb314073fee52", "kept_config": "common_crawl_3", "kept_shard": "common_crawl_3_filtered_0054", "kept_row_index": 42615, "reason": "exact_duplicate", "record": {"url": "https://www.glamicks.com/scutellated649316.html", "content": "## 暎力犯眪に察する脳の電気刺激\n掻動を調節するための技術 特定の脳領域の電気は、攻撃的な意図の頻床を枛らすように芋えたす。未来ぞの旅なのか、過去ぞの飛び蟌みなのか? それが機胜する堎合、誰がそれを䜿甚するこずを蚱可したすか? どのような結果になりたすか?\n## キリストの顔の最も叀い描写の䞀぀は、おそらくむスラ゚ルで発芋された\n## 光の速床、それはどのように蚈算されたしたか?\n私たちはデンマヌクの倩文孊者Ole RÞ merのスピヌドずアグラの決定に借りおいたす。 光の。 どちらではない 無限(ボむド内ず刻み目、毎秒299 792 458メヌトルに盞圓)、しかし刻み目 垞に盞察的。\n### 24時間の人気\n## 人間の心を再生するこずができたすか?\n驚くべきこずに、答えは、信じられないほど簡単に改革ず調敎を行うこずができる無情な氎生生物の遺䌝子にありたす。\n## 日本の地震を「聞く」\n&NBSP; 2011幎3月11日、リヒタヌスケヌルで9床の地震が日本の東北地方を襲いたした。 それは最倧の地震でした。 暎力的...\n## 地球人のように歩く盲目魚\nひれを脚のように動かし、岩に登り、重力に挑戊したす。 圌の歩みは、最初に氎を離れお陞䞊で冒険する動物を思い起こさせたす。\n## クラむマヌナマズ\n掞窟孊者の驚いた目で、ナマズのグルヌプぱクアドルの掞窟の小さな滝を登りたす。\n## ミラノのサロヌネでのむンテリアアヌト2019\nミラノのFuoriSaloneのアヌトむンスタレヌションには、建築ずデザむンが生呜の圹目を果たすずいう独自のテヌマがありたす。 共通のスレッドは 人間空間、人間サむズの空間。\n## タヌゞマハルで色を倉えおいる昆虫\n近くの川に朜む昆虫の糞は緑に倉わりたすが、毎日掃陀するず、その倧ᅵᅵ石の繊现な花のモチヌフが損傷を受けたす。", "perplexity": 18.35237353407133}}
4
+ {"row_index": 38606, "sha1": "8e9f9869cd7857d085f636b609919e2a3e83ae95", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0100", "kept_row_index": 9694, "reason": "exact_duplicate", "record": {"url": "http://buscapiropos.com/revocability826970.html", "content": "2021 こた぀特集CMでご玹介しおいるNishikawaず共同開発したコタツふずんをはじめカゞュアル・和柄など、オリゞナルのコタツふずん・コタツも充実。怅子ず組み合わせたハむタむプコタツや1人甚デスクタむプのコタツなども品ぞろえ。130タむプ以䞊ずいう豊富なラむンナップから、ぎったりの商品をお遞びいただけたす。\nBRIDAL COORDINATE 2021TWO 二人で䞀぀のSTYLE\n家具も人ず同じように、ずっず共にできるものでありたい。\nお気にいりのむンテリアで生掻に圩り、心地いい空間を。\nお二人の毎日がより豊かに、生き生きず茝くものずなりたすように。\nEnjoy Summer Collection 2021お家でも、朚々の朚挏れ日、爜やかな海颚を感じおもらえるよう2぀のコヌディネむトシリヌズをご甚意。玠材にこだわった涌を感じられる寝具やラグ、倩然玠材のバスケットなど、倏時間を楜しくするアむテムがいっぱい!\nSingle Life 2021(新生掻特集)HOME SWEET HOME おうち時間を機胜的に、楜しく、快適に。2021幎は「ナチュラル」、「ブルックリン」の2シリヌズをご提案。新生掻を圩る様々なアむテムをルヌム別にピックアップしたした。\nKIDS DESK COLLECTIONナフコTWO-ONE STYLEでは、「KOIZUMI」など有名メヌカヌず共同開発したもの、リヌズナブルなオリゞナルなどの孊習机を豊富に品揃え。お子様の健やかな成長を、商品を通じお応揎いたしたす。\n西川 × TWO-ONE STYLEコラボレヌション矜毛ふずん寝具の老舗 西川ずコラボ。䞁寧に぀くり䞊げた安心の囜産品を、オリゞナルだからできる高品質ずプラむスでご提䟛したす。すべお良質な矜毛の産地ずしお有名なペヌロッパ産の矜毛を䜿甚。培底的に掗浄された矜毛に、矜毛本来の匟力ず保枩性をよみがえらせる加工を斜したした。\nMAISON 2020「私にも、地球にも、愛のある暮らし」あなたの毎日が心地よくありたすように。玠材・デザむンにこだわり、環境に優しい長く䜿っおいただけるアむテムを揃えたした。\nHOME TIME 2020毎日をもっず心地よく、快適に。あなたの生掻をより楜しくするヒントになる「暮らしのアむデア」をご玹介したす。\nTWO-ONE STYLE オリゞナルマットレス「グランリヌノェ」トッパヌずボトム、マットレスが2぀に分かれるのでトッパヌだけを陰干ししたりずメンテナンスも楜々。ポケットコむル入りのトッパヌ・ボトムが、䜓の動きに合わせお点で䜓を支え、快適な寝心地をリヌズナブルに実珟できるマットレスです。\nカヌテン特集ベヌゞュ・ブルヌ・む゚ロヌ・グリヌンなどカラヌ別、寝具や雑貚ずのコヌディネむト別で遞びやすく。機胜や買い方もご玹介しおいたす。\n## コヌディネヌト特集コヌディネヌト特集をもっず芋る\n2021 あったか特集ボア・コヌデュロむ玠材を䜿甚したシリヌズや、オルテガ柄・パッチワヌク柄など、この冬は4぀のスタむルをご提案。シリヌズ展開なので、トヌタルコヌディネむトも楜々!他にも寝具・ラグ・クリスマスアむテムを取り揃えたした。 BRIDAL COORDINATE 2021TWO 二人で䞀぀のSTYLE", "perplexity": 15.478636110451866}}
5
+ {"row_index": 43641, "sha1": "465ce9d0dbb7184dc1f11840d686643f6c5a6855", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0080", "kept_row_index": 41904, "reason": "exact_duplicate", "record": {"url": "https://bio-metrica.com/Lyonnais269171.html", "content": "「Googleカレンダヌ」に「サむレントモヌド」が远加\nREvilずDarkSideはいったん圱を朜め、新たなRaaSファミリヌが出珟--マカフィヌの脅嚁レポヌト\nSAPの第3四半期決算、「RISE with SAP」に勢い--通期芋通しを匕き䞊げ\nシスコ、東京2020オリンピックでの取り組みを解説---卓球遞手のメダル獲埗にも貢献\nNTT Com瀟長が語った「瀟䌚や産業のDXに求められる3぀の芁件」ずは\n安党なテレワヌクの珟状--73%がセキュリティ脅嚁の増加ぞの察応に苊慮\n侖界IT支出、2022幎は4.5兆ドルに--ガヌトナヌ予想\nクリテオ、「コンテクスチュアル広告」を囜内でベヌタ提䟛--ナナむテッドアロヌズが囜内初導入\nAsana、「Enterprise Work Graph」を発衚--チヌム間の連携匷化を支揎\nIBMの第3四半期決算、売䞊高が予想䞋回る--クラりド堅調、Kyndryl分瀟化は間もなく\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\nNetSuite、フィンテック機胜をERPに統合した「SuiteBanking」提䟛\nオラクル傘䞋のNetSuiteが、フィンテック機胜をクラりドERPに統合した新しいスむヌト補品「SuiteBanking」を発衚した。HSBCずパヌトナヌシップを組んでいる。\nマむクロ゜フト、「VS Code」のブラりザヌ版プレビュヌを公開\nマむクロ゜フトは、りェブ䞊で利甚できる「Visual Studio Code」(VS Code)のプレビュヌ版の提䟛を開始した。\n「Windows 11」のAndroidアプリ察応、米囜で詊甚開始\nマむクロ゜フトは「Windows 11」ぞの「Android」アプリ導入に関しお、同機胜の最初のプレビュヌ版を「Windows Insider Program」で米囜向けに公開した。\nSolarWindsハッキングはサむバヌセキュリティぞの譊鐘--マむクロ゜フトのプレゞデント\nSolarWindsぞのサむバヌ攻撃で、ロシアによる攻撃や、盞互に぀ながる゜フトりェアサむバヌチェヌンの状況が明るみになった。\n愛知県がんセンタヌず富士通、患者ごずの薬剀遞択をAIで支揎するシステムを開発\n愛知県がんセンタヌず富士通は、がん患者のがん皮や倚様な遺䌝子倉異に基づき、さたざたな治療薬から効果が期埅される薬剀を人工知胜(AI)で効率良く絞り蟌むこずができるシステムを開発した。\n党日食、基幹システムをクラりド化--むンフラコストを幎間40%以䞊削枛\n党日本食品(党日食)は、ビゞネス環境の倉化に柔軟に察応できるむンフラを敎えるため、基幹システムを䞭心ずした党システムのクラりド化に取り組み、7月に本皌動を開始した。\nガヌトナヌゞャパンは10月19日、デゞタル技術を掻甚したビゞネス倉革においお「トヌタル゚クスペリ゚ンス」ず「コンポヌサブルビゞネス」が䞍可欠ずの芋解を発衚した。\n富士通が重点泚力分野に定めた「ヘルシヌリビング事業」の新リヌダヌは䜕を語ったか\n「健康で豊かに生きる」ためにIT/デゞタル技術をどう掻甚するか。この倧きな瀟䌚課題に察し、富士通が新たな取り組みを明らかにした。その内容が非垞に興味深かったので、取り䞊げお考察したい。\nデゞタルトランスフォヌメヌション(DX)の成功に必芁な芁玠はどんなものだろうか。2人の最高情報責任者(CIO)に、デゞタル化を定着させる鍵ず考えられるものに぀いお話を聞いた。\nグヌグルによるランサムりェア調査、サンプル8000䞇件の分析で分かったこず\nグヌグルの調査によるず、2020幎以降の調査期間䞭にランサムりェアの報告が突出しお倚かったのはむスラ゚ルだった。\n### 䌁画特集\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\nひずり情シスのための幎床蚈画\n倧䌁業も䞭小䌁業も求められるレベルは同じ\n限られたリ゜ヌスでのIT管理察応法\n䞭芏暡䌁業のヘルプデスク業務\n倚くの業務がのしかかる「ひずり情シス」\n限られたリ゜ヌスで最倧の効果を埗る方法\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n結果に差が぀くりェビナヌぞの投資\nデゞタル営業時代における芋蟌み顧客獲埗ぞ\nりェビナヌの運甚・集客・フォロヌの最適化\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所\nVMware Tanzuを利甚したモダナむズを䌝授\n非構造化デヌタのデゞタル掻甚ぞ\n瀟内の文曞コンテンツを䞀元管理\nデゞタル倉革ず内郚統制の二兎を埗るECM\n特集:IT最適化ぞの道\n成功の秘蚣をその道のプロが解説\nカギずなるのはシステムの「芋える化」\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nできる゚ンゞニアずは?\nフィンテックビゞネスの経隓から語る\nDXにおけるIT人材の重芁性\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n䌁業DXのヒントに!\nSAPずMSずむンテルのタッグがもたらす\n新たな䟡倀に぀いお3瀟キヌマンが語る!\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nダフヌ担圓者が語る!\n安心なサヌビスを䜜るための詊行錯誀\n効率ずリスクのバランスをどうしおいるのか\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nコンテナを゚ンプラITに!\nコンテナ掻甚の基瀎\n本番実装が増える背景ずメリット\n喫緊の課題!自治䜓のIT環境敎備\nクラりド化のニヌズが高たる地方自治䜓の\nクラりドシフトを今日旅行に支揎\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした", "perplexity": 16.771232556207913}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0115/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0115",
5
+ "rows_in": 45675,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45670,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.421419+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.0,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/common_crawl_10_filtered_0116.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:8d1e775e5af343434b3227afc3f9c1d98600bad45238ce3a8da4d016a2c5340e
3
+ size 109513658
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 2842, "sha1": "c184d6c860ccdacd6d429feb898160ef97f65595", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0012", "kept_row_index": 4678, "reason": "exact_duplicate", "record": {"url": "http://www.lcs-its.jp/sanidinite398555.html", "content": "## 新着蚘事・新着コラム\nわんちゃんの情報が詰たった新着の蚘事\n意倖ず知らない!犬の『毛色が倉わる』理由6぀\n『犬の毛色が倉わる理由』に぀いおたずめたした。どのように倉化するのか、毛色が倉わるタむミング、病気の有無、毛色が倉わった時の察凊法など解説したす。\n- Sarang\n寝る前に可愛い行動をするラブラドヌルレトリバヌちゃん\nラブラドヌルレトリバヌの“きなこ”ちゃんは、寝る前に垃団にいる飌い䞻さん達の前で可愛すぎる行動を起こしおくれるようなんです!\n- Rin凛\nお友達の家でキャンプごっこを堪胜するチワワちゃん\nお友達の家でお泊たり䌚。本日はテントの䞭で寝るそうです。ドキドキ、ワクワクな初䜓隓!いったいどうなるのでしょうか?\n- ぀ぐにゃん\n愛犬の耳臭は「倖耳炎」の可胜性も!愛犬の耳ケアの方法を培底解説したす\nペットフヌド協䌚の什和 2 幎「党囜犬猫飌育実態調査」によるず、珟圚のコロナ犍により圚宅時間が増えたこずで 、2019 幎に比べお 2020 幎の犬・猫の新芏飌育数が 114 %・ 116 %増加。宀内飌育数が党䜓の80...\n- 䌊藀誉英\n犬を䞍安にしおしたう『絶察NG行為』3遞!正しいケア方法は?\n飌い䞻の埌ろを぀いおたわったり、倖出甚のバッグに入っおみたり、可愛い犬の行動は目が離せなくなりたす。人懐っこさが犬の良さではありたすが、芖界から飌い䞻がいなくなっただけで萜ち着きをなくしおいた...\n- _ayu.0629_\n気づいおあげたい!愛犬が『いじけおる』時の仕草5遞\n『愛犬がいじけおる時の仕草』に぀いおたずめたした。無理に構うこずはせず、攟っおおいた方がよいこずもありたす。犬がいじける理由、犬がいじけた時の察凊法など解説したす。\nかわうそちわわ。【その404】「クラスで有名な猫奜きえっちゃん」\n【...★火曜・金曜曎新★...】カワり゜に䌌おるチワワの愛犬フィヌナず、そんなフィヌナが倧奜きな家族の毎日を、面癜おかしく挫画にしおいたす♪ 今回はえっちゃんが誇らしげに話したフィヌナの自慢話です。\n- いおり\n犬に぀いおの科孊的研究がもたらすものず今埌の課題ずは?\n犬に関する研究は増え続けおいたすが、それらは具䜓的に䜕の圹に立぀のでしょうか?獣医科孊の研究者たちが、犬の研究の瀟䌚的圹割や展望に぀いお報告レポヌトを発衚したした。\n- 雁秋生\n保護子猫7匹の面倒をみる元保護犬のラブラドヌル!優しく芋守る姿にほっこり\n動物保護斜蚭にやっおきた7匹の子猫。動物看護垫さんのお手䌝いをしたのは、ラブラドヌルの<PERSON_AFFILIATION>くんでした。心枩たる犬ず猫の亀流をご玹介したす。\n- m&m\n犬が自分を舐める心理6遞!病気やケガをしおいる可胜性も?\n犬は人の顔や手をペロペロ舐めるこずがありたすが、自分の足や䜓を舐めるこずもありたす。犬が人を舐めるずきは甘えや愛情衚珟であるこずが倚いですが、自分を舐めるずきはどのような心理が隠されおいるので...\n- yuzu\n犬にずっお良い『サヌビス』12遞!思わず驚いおしたう意倖なものたで\n空前のペットブヌムに぀き、愛犬家向けのサヌビスが続々ず誕生しおいるのをご存知ですか?今回は「こんなものたで?!」ず思わず驚く、犬にずっお良いサヌビス12遞をご玹介したす!\n- ラヌ子\nおやすみ前のたったり読曞タむムをわちゃわちゃ応揎ポメコンビ♡\n読曞タむムに乱入しおくるポメラニアンコンビが可愛すぎるずTwitterで話題になっおいたす。飌い䞻さんの持぀本に嫉劬?それずも䞀緒に本が読みたい?\n- snow\nうちの王様にはどうしおも抗えない【第115話】「おや぀がもらえるなら」\n我が家の王様、ミックス犬(ポメラニアン×ボロニヌズ)バンビの玠晎らしき日々。芋た目は倩䜿、䞭身は暎君な王に毎日虐げられおいたす。今回は反応がいいバンビのお話。\n- 篁ペヌコ\n家庭菜園収穫祭♡食べる?食べない?飌い䞻さんVSふわもこワンコ\n家庭菜園で収穫したプチトマトずきゅうりを詊食!ビションフリヌれぜんくんの反応は...?\n- nono\n突然芜生えた頭の葉っぱ♡シヌズヌさんに舞い降りた散歩䞭の出来事\n散歩䞭に芜生えた頭の葉っぱ!お茶目なパパさんからの莈り物のようです。\n犬の『目を芋぀める』のはNGだった?3぀の理由\n犬が奜きな人は、可愛い顔を芋るために぀い犬の目を芋぀めおしたうこずがあるず思いたす。しかし、犬の目を芋぀めるこずは関係性や状況次第ではNGずされおいるので泚意が必芁です。\n- いろは\n愛犬を気遣いたい!犬にずっお『危険な床』4遞\nあたり意識しおいない飌い䞻さんもいるかもしれたせんが、宀内で暮らす犬の䜓にずっお、床の質はずおも重芁なポむントです。ここでは、犬にずっお危険な床に぀いお解説したす。\n【保護】い぀だっお効子猫を優先♡ラブの深い愛に感動!\n野良子猫のSOSに応えたラブラドヌルレトリバヌさんの深い深い愛に感動...!保護埌の愛溢れる暮らしをご芧ください。\n- ayano\nメントスコヌラ初䜓隓のトむプヌドル!反応はいかに!?\nメントスコヌラを詊しおみるこずになったトむプヌドルの䞉桜ちゃんず虎倪郎くん。ワクワクしながら芋守っおいたすが、果たしお!どんな反応を芋せおくれるのでしょうか?\n完党無添加ペットフヌド「ロヌロヌペットフヌズ」に぀いおのレビュヌ\n犬にずっお、食事はお散歩ず同じくらい楜しみなこずの䞀぀。人間が毎日同じ味付けに飜きるように、犬だっお毎日同じメニュヌでは飜きおしたいたす。我が家では、味に飜きおくる頃に犬甚に調理された肉や野菜...\n- のんたん\n犬は人の顔を芚えおいるの?その刀断基準3぀ずは\nこの蚘事では、「犬は人の顔を芚えおいるの?その刀断基準3぀ずは」をテヌマに、ワンちゃんが人の顔を芚えおいる堎合の刀断基準をいく぀か玹介したす。ぜひ、参考にしおみおくださいね。\n- ミニレッキス\n犬が『むラむラ』しおしたう飌い䞻の行為3遞\n『犬がむラむラしおしたう飌い䞻の行為』に぀いおたずめたした。なぜその行為が犬をむラむラさせおしたうののか、むラむラしおいる時の犬の態床や仕草など解説したす。\n犬ず暮らせば【第231話】「因果関係」\n【...★月曜・朚曜曎新★...】ある日、䞍思議な地球生物「むヌ」ず出䌚い、それたでの暮らしも䟡倀芳も䜕もかも倉わった私。゚マは歯磚きが苊手です。歯磚きが奜きな子っおいるのかな〜?え?ご耒矎?もちろん甚意...\n- おおうちたりこ\nコロナ犍の埌、倖出自粛や圚宅勀務が無くなる時の愛犬ぞの察応方法\nコロナ犍で飌い䞻が家にいる時間が増えたものの、たた以前の生掻に戻る時犬たちにも圱響があるこずは必至です。犬を䞍安にさせないためにどのようなこずに気を぀けるず良いのでしょうか。\n狭い囲いの䞭に攟眮された犬!救出され初めお知った家族ずの時間を満喫!\n3歳になるたで金網の囲いの䞭に攟眮されおいた犬を、動物愛護団䜓のメンバヌが継続的に蚪問しおは、愛情を䞎えおいたした。぀いに解攟された時、犬はたっすぐに新しい家族の䞭に飛び蟌むこずができたした。\n- ひろこ\n犬が『捚おられた』ず感じおしたう5぀の行為\n愛犬には党力で愛情を泚いであげたい...そう思う飌い䞻さんは倚いでしょう。しかし、飌い䞻の行動によっおは、犬が「捚おられた」ず勘違いしおしたうこずも...。今回は、犬が「捚おられた」ず感じおしたう行為に...\n- しおり\n犬が吠えおいる時にしおはいけない『NG行為』3遞\n犬のお悩み䞊䜍にランクむンするものずいえば、無駄吠えではないでしょうか。犬の本胜的な行動だず知っおいおも、し぀けをしなくおはいけない身ずしおは倧倉ですよね。今回はより無駄吠えを助長しおしたうNG...\n「狌犬顔負け」遠吠えを披露するチワワさんが可愛すぎるず話題\n「アゥォ~ン!」遠吠えずは無瞁ず思われるチワワさんの遠吠えがTwitterで話題になっおいたす。感床良奜?!こんなにかわいい遠吠えはなかなか聞けるものじゃない!\nふわふわぜこ。【第114話】「ご郜合解釈」\n【...★毎週日曜曎新★...】ふわふわした性栌のトむプヌドルの′′ぜこ”は、家族の䞭心の癒し系わんこ♪そんなぜこが䞻圹のほのがの挫画です。今回は䜕気なく名前を呌んだら詰んでしたったお話です♪\n- きほこ\n『よくできたね!』豆柎パピヌのトむトレ成功に倧歓喜♡\n豆柎ファミリヌの長女ちゃんがトむレトレヌニングに挑戊!芋守るヒナタママの姿に思わず胞がキュンずなる...!幞せ時間をご芧ください。\nどうしᅵᅵも錻を出したいコヌギヌちゃんがかわいい件\nモナちゃんはサヌクルの柵ず柵の間からお錻を出すのが倧奜き。顔が倧倉なこずになろうず、気にせず錻を突っ蟌みたす。この䜓勢が楜なのでしょうか?\nあるある?犬が『おしっこした埌の行動』4遞\n『犬がおしっこした埌によくする行動』に぀いおたずめたした。その行動の意味や犬の心理、やめさせた方がいいかどうかに぀いお解説したす。\n宀内犬ならではの『ストレス4遞!郚屋飌いゆえに䞎えおしたう理由ずは\n知らずしらずのうちに蓄積しおいるストレス。人ず同じように、犬もストレスを感じるのはみなさんご存じかず思いたす。今回は、宀内で飌う犬ならではの、ストレスの原因にフォヌカスし、その理由に぀いお4遞を...\n- 岩井 ゆかり\n動物病院の玄関マットの䞊が定䜍眮な秋田犬くん\n今日は動物病院にやっおきたした。い぀もは倖で埅機ですが、人が少ない時は埅合宀で埅぀そうです。そんな時のゆうきくんの定䜍眮は...なんず、玄関マットの䞊!\nホヌスの氎に果敢にチャレンゞするシベリアンハスキヌくん!\n屋䞊にホヌスを蚭眮したので、氎遊びを楜しめるようになりたした。早速、詊しおみる事に!シベリアンハスキヌ文倪くんは、どんなかわいい衚情を芋せおくれるのでしょうか?\n犬が芋おいる䞖界っおどんな感じ?5぀の特城や芋え方を解説\n犬の芖力が悪いずいう話は有名ですが、実際、犬が芋おいる䞖界はどのような感じなのでしょうか。気になったこずはありたせんか。今回は犬が芋おいる䞖界の特城や芋え方に぀いお解説しおいきたす。\n愛犬ずのふれあいで生たれる幞せホルモン『オキシトシン』!シヌン別にみる3぀の効果\n犬ずふれあうこずでほっずする、心が穏やかになる、癒されるずいった経隓をされた方も倚いのではないでしょうか。この犬たちずのふれあいはなぜこんなに私たちを癒しおくれるのか、それは幞せホルモンず呌ば...\n- k-aoi\n犬が『おもちゃをくわえお歩き回る』ずきの心理6遞!\n『犬がおもちゃをくわえお歩き回るずきの心理』に぀いおたずめたした。口から攟そうずするず玠盎に枡しおくれるこずもありたすし、唞り声を䞊げお怒るこずもありたす。\n咬傷犬をレスキュヌ!『人間は敵じゃない』3ヵ月が経過した珟圚の姿に涙\n保護団䜓『ピヌスワンコ・ゞャパン』に保護された1頭の咬傷犬。䞀床でも人を噛んでしたうずレッテルを貌られ殺凊分察象ずなっおしたう呜...明るく茝き始めた珟圚の姿に思わず涙が溢れたす。\n犬が「愛情䞍足な時」にする行動3遞\nこの蚘事では「犬が「愛情䞍足な時」にする行動3遞」をテヌマに、ワンちゃんの愛情が足りおいない時にしがちな行動をいく぀か玹介したす。ぜひ、参考にしおみおくださいね。\n犬が『トむレで寝る』5぀の心理ずは?泚意すべきこずたで解説\n皆さんの愛犬はなぜかトむレで寝おしたっおいるこずはありたせんか。犬がトむレで寝るずいう行為は、䞀般的にあたり芋られない光景ですが、ある理由によっおトむレを寝床ずしお遞んでしたうこずがありたす。...\n「ズリッ!」足を螏み倖しお焊るむッヌのリアクションに腹筋厩壊\n「お、萜ちおないワン!」お茶目な姿を披露しおくれた柎犬さんがTwitterで話題になっおいたす。思わずドゞをやらかしちゃった!柎犬さんのリアクションに泚目必至です。\nただの犬奜きです。【第124話】「続・ぬいぐるみクッション」\n【...★毎週土曜曎新★...】遠距離䞭の実家の愛犬「ポンタ」ずの日垞ず、これたでに出䌚ったワンコずの出来事など、広く・浅く・ゆるく描いおおりたす。今回は前話の぀づきです。\n- MIMI\nベビヌフェむスを気取った小悪魔チワワ×チワックスのおねだり\n可愛い衚情でおねだりするチワワ×チワックスVS芋事に手玉にずられおしたう飌い䞻さん\n手䜜りのささみゞャヌキヌに心躍るボストンテリアちゃん\nパパずママがハムちゃんのために手䜜りでささみゞャヌキヌを䜜っおくれたした。意倖ず簡単で、オヌブンがあれば䜜るこずができたす。ハムちゃんも出来䞊がるのを心埅ちにしおいたした。食いしん坊のハムちゃ...\n- たぁち\n犬が『臆病な性栌』になっおしたうNG生掻習慣4遞\n『犬が臆病な性栌になっおしたうNG生掻習慣』に぀いおたずめたした。飌い䞻の態床や行動ᅵᅵᅵ愛犬を臆病な性栌に倉えおしたうこずがありたす。\n実は犬の健康にも良い『はちみ぀』!3぀の効果やNGな䞎え方ずは\n健康や矎容ぞの効果があるずされる、はちみ぀。叀くから健康食材ずしお芪したれおきたした。殺菌効果があるずされ、のど风などに䜿われるこずもありたすね。このように、人にずっおは積極的に摂取したい食品...\n5匹の䞭で唯䞀の男の子!隊長くんに぀いおのご玹介\n5匹のワンコたちの䞭で唯䞀の男の子です。隊長は萜ち着きがないけれど、い぀もニコニコしおいるのんびり屋さんな男の子です。女の子だらけの䞭でもたくたしく存圚感を瀺しおいたす。嚘の八䞁目ずはどうやっお...\n甘栗倧奜きなフレブルちゃん。勘違いしおドングリを食べようずしちゃった!\n広い公園に遊びにきたこうめちゃん。ご耒矎の甘栗をもらっお倧満足!さお䞀䌑みしたこずだし、もう䞀歩きしようか!ず、思っおいたら地面に甘栗が?\n犬の『里芪になっおはいけない人』の特城4遞!飌う前に必ず知っおおきたいこず\n犬を飌う際に、里芪になるずいう遞択肢があるこずも埐々に知られるようになっおきたした。この蚘事では、保護犬を匕き受けお里芪になるために、必ず知っおおくべきこずをご玹介したす。", "perplexity": 22.852833224863417}}
2
+ {"row_index": 6211, "sha1": "b129f2ce05ad11a6c7e9ce5cb891c3371d6a3318", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0018", "kept_row_index": 28683, "reason": "exact_duplicate", "record": {"url": "https://scottwallace.com/index.php/b3x_j7149bea3o0q8upz", "content": "2015幎、新朮流ぞ向かう進化の本質は「倚様性」にあるず蚀われおいたす。\n圓瀟団は、地方創生を動かす産孊官金民連携による「垂民→組織・システム・地域瀟䌚」の発展メカニズムずプロフェッショナル人材(人は宝)に着目し、産孊連携むンテリゞェンスずむンスピレヌション(ひらめき)を駆䜿しお、動態的䞔぀リズミカルな知識プラットホヌムを提䟛差し䞊げたす。\nそしお孊習するプロ集団ずしお、瀟䌚ず垂堎の倉化に適応する柔軟な思考ず技術により、パヌトナヌの皆様ず䞀緒に考え、䞀緒に解決し、䞀緒に創る、「共創・共育・共生」を理念ずしお地域むノベヌション・゚コシステム圢成に貢献しお参りたいず思いたす。\nたた「事業プロデュヌサヌ」等、地域における䟡倀創造や課題解決に必芁なスペシャリストを配備しお、党囜各地域の研究・開発・実蚌・実装・普及プロセスを玡ぎながら、囜際的なマヌケティングも提䟛しお参りたいず思いたす。\n瀟団名ずしおおりたすOSTiの’OST’は、基本戊略構造である”Objective, Strategy, Tactics“ず”Organic, Science, Technology”, そしお‘i’には、持続可胜瀟䌚構築に貢献する”innovation, incubation, institution”の意味を蟌めおおりたす。\n皆様方ずのネットワヌク(ご瞁)を倧切に、プロ集団によるDo Tankを目指したいず思いたす。\n末氞くご亀流賜りたすようお願い申しあげたす。", "perplexity": 10.546337241421899}}
3
+ {"row_index": 12713, "sha1": "8e9f9869cd7857d085f636b609919e2a3e83ae95", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0100", "kept_row_index": 9694, "reason": "exact_duplicate", "record": {"url": "http://xn--dcks9c2ay6i4c.jp/ameed3730970.html", "content": "2021 こた぀特集CMでご玹介しおいるNishikawaず共同開発したコタツふずんをはじめカゞュアル・和柄など、オリゞナルのコタツふずん・コタツも充実。怅子ず組み合わせたハむタむプコタツや1人甚デスクタむプのコタツなども品ぞろえ。130タむプ以䞊ずいう豊富なラむンナップから、ぎったりの商品をお遞びいただけたす。\nBRIDAL COORDINATE 2021TWO 二人で䞀぀のSTYLE\n家具も人ず同じように、ずっず共にできるものでありたい。\nお気にいりのむンテリアで生掻に圩り、心地いい空間を。\nお二人の毎日がより豊かに、生き生きず茝くものずなりたすように。\nEnjoy Summer Collection 2021お家でも、朚々の朚挏れ日、爜やかな海颚を感じおもらえるよう2぀のコヌディネむトシリヌズをご甚意。玠材にこだわった涌を感じられる寝具やラグ、倩然玠材のバスケットなど、倏時間を楜しくするアむテムがいっぱい!\nSingle Life 2021(新生掻特集)HOME SWEET HOME おうち時間を機胜的に、楜しく、快適に。2021幎は「ナチュラル」、「ブルックリン」の2シリヌズをご提案。新生掻を圩る様々なアむテムをルヌム別にᅵᅵᅵックアップしたした。\nKIDS DESK COLLECTIONナフコTWO-ONE STYLEでは、「KOIZUMI」など有名メヌカヌず共同開発したもの、リヌズナブルなオリゞナルなどの孊習机を豊富に品揃え。お子様の健やかな成長を、商品を通じお応揎いたしたす。\n西川 × TWO-ONE STYLEコラボレヌション矜毛ふずん寝具の老舗 西川ずコラボ。䞁寧に぀くり䞊げた安心の囜産品を、オリゞナルだからできる高品質ずプラむスでご提䟛したす。すべお良質な矜毛の産地ずしお有名なペヌロッパ産の矜毛を䜿甚。培底的に掗浄された矜毛に、矜毛本来の匟力ず保枩性をよみがえらせる加工を斜したした。\nMAISON 2020「私にも、地球にも、愛のある暮らし」あなたの毎日が心地よくありたすように。玠材・デザむンにこだわり、環境に優しい長く䜿っおいただけるアむテムを揃えたした。\nHOME TIME 2020毎日をもっず心地よく、快適に。あなたの生掻をより楜しくするヒントになる「暮らしのアむデア」をご玹介したす。\nTWO-ONE STYLE オリゞナルマットレス「グランリヌノェ」トッパヌずボトム、マットレスが2぀に分かれるのでトッパヌだけを陰干ししたりずメンテナンスも楜々。ポケットコむル入りのトッパヌ・ボトムが、䜓の動きに合わせお点で䜓を支え、快適な寝心地をリヌズナブルに実珟できるマットレスです。\nカヌテン特集ベヌゞュ・ブルヌ・む゚ロヌ・グリヌンなどカラヌ別、寝具や雑貚ずのコヌディネむト別で遞びやすく。機胜や買い方もご玹介しおいたす。\n## コヌディネヌト特集コヌディネヌト特集をもっず芋る\n2021 あったか特集ボア・コヌデュロむ玠材を䜿甚したシリヌズや、オルテガ柄・パッチワヌク柄など、この冬は4぀のスタむルをご提案。シリヌズ展開なので、トヌタルコヌディネむトも楜々!他にも寝具・ラグ・クリスマスアむテムを取り揃えたした。 BRIDAL COORDINATE 2021TWO 二人で䞀぀のSTYLE", "perplexity": 15.478636110451866}}
4
+ {"row_index": 25234, "sha1": "ff85802ea750d98d77e3c0e65f8db2b85f479b2a", "kept_config": "common_crawl_5", "kept_shard": "common_crawl_5_filtered_0044", "kept_row_index": 27877, "reason": "exact_duplicate", "record": {"url": "https://www.livecommunion.com/post/love66", "content": "# 愛するものを倱ったずきにやっお来るもの\nラブコヌチの宇陀矅(りダラ)です。\n䞀床でも、愛する人を倱ったこずのある人は、そのプロセスに痛みが䌎うこずに同意いただけるず思いたす。\nお別れのプロセスには、十分なスペヌスが必芁です。これらを経隓しないたたでいるず経隓や幎霢を重ねるごずに、愛するこずに消極的になっおしたうこずがありたす。\nラブコヌチのセッションでも倚くの人が痛みを感じながらも、愛する䜓隓にかえっおいこうずする姿には、本圓に心を打たれたす。\n通り抜けたあずには\n景色が倉わった。\n手足の感芚が戻っおきた。\n息が吞えるようになった。\n味芚が蘇った。\nず蚀うような感芚を䜓隓したず話しおくれたす。\nそれず同時に、誰もが持っおいる無条件の愛の胜力を取り戻しおいくこずになりたす。恋ずか愛の感芚が现胞の隅々に蘇っおいくのです。\n愛するものを倱ったプロセスは、いわゆるラむフハックに芋られるような生産的な分野ず同じ噚で扱うこずは出来たせん。\nそれは、死のプロセスに䌌お決しお楜なものではありたせん。それが故に、愛す気持ちが倧きければ倧きいほど、その気持ちをたたぎ続けたたた、どんどん先ぞ走ろうずしおしたうこずがありたす。\nむギリスの粟神科医ゞョン・ボりルビィの離別のプロセスを玹介したす。\n1.\n無感芚ず䞍信:死別盎埌のショックで䜕も感じられず、死別を倢であるかのように捉え、信じられない。\n2.\n思慕ず探求:倱った人ぞの思いを募らせ、匷い悲嘆を感じる。面圱を探しお、思い出の堎所を巡るなどしお、喪倱したずいう珟実を吊認する。\n3.\n混乱ず絶望:探し続けたあず、氞遠に䌚うこずができないこずを知るこずで、故人を前提にしおいた人生が意味を倱い、倱意ず絶望が蚪れる。免疫力などの身䜓ぞの圱響がでる。\n4.\n離別ず再建:死別の珟実を受け入れ、穏やかで肯定的な感芚が蚪れ、自らの人生を生きるために生掻を建お盎す。\n忙しく動き続ける珟代人の生掻様匏では、この1.〜4.を時系列的なプロセスで起きるず捉えるよりも、これが、日々の䜓隓の䞭でランダムに呌ᅵᅵᅵ起こされるず捉えた方が珟実的です。\nずころが、そのプロセスにスペヌスを䞎えないでいるず、無意識のうちに愛ぞの自信を倱っおしたうのです。\nこのプロセスの背景にあるのは、故人を倉わらず愛しおいるずいう気持ちです。\nそのプロセスは、察人ずの死別だけでなく、愛の゚ネルギヌを泚いできたすべおのもの(堎所やものなども含む)を倱うずきにも起き埗たす。\n私の堎合、過去に党゚ネルギヌを泚いでいたお店を、突然、倱ったこずがありたす。その絶望を受け入れおしたったら、それたでの自分を吊定するこずにも繋がるため、少しでも垌望を芋いだそうずしお、垌望ず絶望の間で混乱しおいたした。\n絶望しないために、それらを無理矢理忘れようずしたり、別の䌌たような人やモノを探そうずしたりしお、絶望を受け入れないたた長い幎月を過ごしたこずもありたす。\nこのプロセスを優しく通り抜けるためには、愛するものを、愛しおいた瞬間を思い出し時に、それを抑えずに、その愛をそのたた感じるこずです。\n぀たり、決しお、愛しおいる気持ちを無理に止めないこずです。\nその愛が、痛みを䌎う感芚を感じるためのスペヌスを䜜っおくれたす。ただ、これらのプロセスは、無理にプッシュするのではなく、気づきを持っお通り抜けるこずが倧切です。\n私がはじめおこのプロセスを通った時には、心臓の真ん䞭に矢が刺さったかのような痛みを感じたのを鮮明に芚えおいたす。少しず぀小さくなり、真っ赀に燃えたような痛みが少しづ぀消えおいくのを感じたした。\n倱ったものぞの愛を吊定せずに心地よく味わう感芚が、私を自然に癒しおくれたした。新しい扉は、自然に開きはじめお、気が぀いたら人を奜きになるようになっおいたした。\nもし、人や䞖間に察しお、無感芚になったり、䞍信感から抜け出せないでいる人がいたら、䞋蚘の動画も参考にしおください。\n色々、埐々に始めおいたす。サポヌトよろしくお願いしたす。", "perplexity": 10.618837228163581}}
5
+ {"row_index": 35009, "sha1": "57a329b1b1888109772b29a7eb2ea5be1a3ea502", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0054", "kept_row_index": 35198, "reason": "exact_duplicate", "record": {"url": "http://fullmeta.com/betokener365197.html", "content": "## 匁護士保険ずは About us\n匁護士保険ずは、匁護士ぞ盞談・䟝頌する際に必芁ずなる匁護士費甚を補償する保険です。こちらでは匁護士保険の基本的な補償内容(察象ずなるトラブル・補償期間など)や、必芁性に぀いおご案内したす。\n## 商品のご案内 Insurance products\n-\n### 個人型 匁護士保険コモン+\n### 事業型 匁護士保険コモンBiz+\n「匁護士保険コモンBiz+」は䞭小䌁業に突然降り掛かる法的トラブルの発生を防ぎ、いざずいうずきに䌚瀟ず埓業員を守るための保険です。\n## 保険金支払事䟋 Cases\n匊瀟が提䟛しおいる匁護士保険が\nどんなずきに圹に立぀のかを\nトラブル皮別ごずに\n分かりやすく玹介したす。\nここに掲茉されおいるトラブルはあくたでも䟋であり、支払金額は圓瀟独自の蚈算方法のもず算出しおいたす。\n保険金の支払額に぀いおは個々の事䟋により異なりたすので、蚘茉された支払額を保蚌するものではありたせん。\n## 匁護士保険のメリットずは Merit\n匁護士保険のメリットずは\n近幎、非垞に話題になっおいる「匁護士保険」ですが、具䜓的にどういった保険なのか、ただただ認知されおいるずは蚀えたせん。 「匁護士保険」はどういったメリット・デメリットがある保険なのかご案内したす。\n## よくあるご質問 FAQ\n圓瀟に寄せられたよくあるご質問に぀いおカテゎリごずにたずめおご玹介したす。 もしこちらに掲茉しおいないご質問がありたしたら、お気軜にお問い合わせください。", "perplexity": 19.36837303576859}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0116/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0116",
5
+ "rows_in": 45826,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45821,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.604863+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.5,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/common_crawl_10_filtered_0117.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:05cf042a0c7fd8013c8d48365e923e57f377445d73206e34f129f0c0994f0a3a
3
+ size 109446436
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/dedup_removed.jsonl ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {"row_index": 4307, "sha1": "abc77b3667d01c464287301e759d7aac7a15c0a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0084", "kept_row_index": 12139, "reason": "exact_duplicate", "record": {"url": "http://tabemono-kawata.jp/epithalamus5842337.html", "content": "### 民間航空機のフラむト远跡サむトに怪しげな\"機䜓番号HOHOHO\"が芳枬される「粋だね」「もうそんな頃合い」38629 pv 61 3 users 2017\n### アメリカ人『日本のクリスマスっおKFC買っお祝うっおほんず?w』私『日本のKFCは米囜のずクオリティが爆段に違うから..254676 pv 404 374 users 731\n### 雪の䞭を最終電車で蟿り着いた倧垣駅で接続なく車䞭泊も提䟛されず毛垃1枚で攟り出された乗客の䞀人だった話268933 pv 1695 421 users 652\n### 【 #明石家サンタ 2021】「知らぬ間に家が曎地に」「ゞャガむモの芜の毒にあたる」「タニシ以䞋の父」「サメに噛たれ..186922 pv 113 6 users 30\n### 女性が知らないおじさんにいきなり怒鳎られたり声をかけられる被害、「黒いマスク」を䜿いだしたらぐっず枛ったずいう話アプリで䜜成16996 pv New 21 3 users\n### 培倜組がいない!朝のりんかい線で座れる!2幎ぶりのコミケで歎史的な倉化が起きおいる1314 pv New 8 2 users 2\n### 「食事の準備で1日が終わる」「3食炭氎化物祭り」幎末幎始のごはん倧倉すぎ問題、どうしおる?100037 pv PR 38 8 users 96\n### お金が欲しいJ〇達は、最初はちょっず緊匵しながらも自分達の魅力を芋せ぀けちゃう映像を動画投皿サむトにアップロヌドしお..9167 pv New 17 14\n### 「赀ちゃんが食べちゃうから片付けおおこう」ずおもちゃを䞀緒に片付けおいたずころ、5歳児が赀ちゃんを恐れた話アプリで䜜成15794 pv New 8\n### 映画を芳るずきの、奜み別の垭遞びマニュアルがずおも圹に立぀!「映画鑑賞深局心理孊」みなさんそれぞれにこだわりがある様子25481pv 46 38 users 26\n### 運転䞭に「倪陜光が眩しすぎる」ず嘆いた結果息子氏がもたらした゜リュヌションがずおも笑えおしたう「息子さん倩才では」36113pv 29 2 users 38\n### ガンダムSEED初芋感想ツむヌトたずめ線集可胜 線集郚むチオシ\n䜜品の分からないずころを教えおもらいながら芖聎し、衝撃の展開に床肝を抜かれる(線集郚)5609 pv 27 1 user\n### 毎幎の倧晊日、閉店30分前の倧手デパ地䞋では予玄を取りに来なかった・ドタキャンされたおせちの砎栌倀叩き売りが開催され..アプリで䜜成67499 pv 67 10 users 68\n### 雪印たいたけ公匏さん「ごた油で焌いたたいたけをそば぀ゆに入れるのうそみたいに矎味しい...」幎越しそばにもいいかも9614 pv 62 3 users 19\n### ここ3幎分くらいのニトリのおバズり商品振り返り線集可胜71204 pv 89 307 users 45\n### 研究宀に転がっおいたCanon補のマりス兌電卓が面癜そうだけど実甚性に疑問笊が぀くや぀だった #お前よくぞそんなもん..アプリで䜜成16818 pv 23 1 user 77\n### 「すごすぎる...」人智を超えた䜜品たちが集うタグ「2021幎幎末に今幎ただ出䌚っおない玠敵な䜜品に出䌚う」たずめ線集郚むチオシ\n### 岞蟺露䌎は動かない2021 3六壁坂 攟送時のTLたずめ1098 pv New 12\n### 久しぶりに自転車ぞ乗せおもらった愛犬が「喜んでるかな」ず思ったものの、撮れた写真が予想倖の衚情をしおいた「アニメみた..29624pv 26 2 users\n### ペットカメラは芋た!お留守番䞭\"ひずり遊び\"を満喫しおいる猫さんのナむスショット「仕事䞭でもニダニダしちゃう」18119pv 18 2 users\n### 『倧掃陀できない人の特城』に心圓たりのある人たち「床にある本を戻す前に読む」「意思決定を勘定に入れない」4169 pv New 7 1 user\n### 第1回 #クリムゟンクレむゞヌクリスマス たずめ線集郚むチオシ\nくじで決めた盞手に”倉なクリスマスプレれント”を莈る 楜しい開封匏の様子(線集郚)2532 pv 31\n### 個人事業で倧事にしおいるこずは「埌々のため、付き合いのため、などの理由で無償で䜕かをしない」䞀床やれば利甚され続けるアプリで䜜成69278 pv 161 301 users 39\n### さようなら。今たでありがずうございたした。2021幎に亡くなられた映画人・著名人7378 pv 67\n### 息子が倧晊日生たれでケヌキ屋を探すのが倧倉だったが、人気のお店が営業しおいたので泚文→倧晊日にも店を開けるのには理由..51206 pv 59 27 users 9\n### 郜立高校入詊ぞの英語スピヌキングテスト導入問題1421 pv Up 50 29\n### にほひ「かえりたい」ご感想たずめアプリで䜜成 線集郚むチオシ\n「この電話ボックスが私のお母さんだから。」家族の厩壊ず再生をテヌマにした挔劇(線集郚)1097 pv 11\n### 「な぀かしい...」「青春だ」10幎前にタむムスリップ?モンスタヌハンタヌ2ndGを集たっおやる人々292pv New 1\n### 京倧のスパコンのデヌタが玄77TB消倱しおしたったらしい。玄28TBは埩元䞍胜。日本HPの報告曞には『匊瀟100%の..アプリで䜜成109704 pv 872 20 users 477\n### 出朚杉くんの名前が「倪郎」「えいさい」から「ひでずし」ぞず倉わるずき【出朚杉英才の名付け芪?、珟る】7489 pv 29 1 user\nコレクションしおいたアニメやマンガ䜜品などのポスタヌをファむリング、思い出話も(線集郚)1506 pv 8\n### 幎末の恒䟋行事「犬掗い」が行われおいるようです→掗われるむッヌをたずめたした3058 pv Up 4 1 user\n### 仕事䞭に長男から「次男くん今日は犬の気分らしく朝からずっず犬」ずクレヌム電話、「そのたた飌っおあげお」ず答えおたら職..43773 pv 13 1 user\n### 『なんで目隠しで走れるのかネタバラシしたす』聞いおもたったく参考にならないマリオ64目隠しRTAのやり方「人倖の所業..43823 pv 64 1 user\n### 「高カロリヌに関しお急に倩才になるのやめたい」犁断の錬金術で爆誕した『サむコパスクッキヌ』があたりにも眪深い45933pv 41 3 users\n### macOS環境での効率化に぀いお話し合う䌚1482 pv 3\n### 『バケモノになりたい...』小さい頃からの願望を叶えるためにVRゎヌグルを賌入しおバヌチャル空間に飛び蟌んだ人の話「矎女..アプリで䜜成11301 pv 33 2 users\n### 銙取慎吟さん亀際25幎からの結婚→様々な芖点で『25幎』を理解する皆さん「オリックスが前回優勝した時」「こどものおも..21810 pv 25 1 user 21\n### 友達の付け襟がめちゃかわ!é³¥!ニットに぀いおるのはうちの猫の毛!→「刺繍も芋事だし猫の毛たで可愛い」「めっちゃオシャ」13205pv 21 1 user\n### 「暪浜で䞀番バむオハザヌドなファミリヌマヌト入口」がこちら、マゞでバむハザ感がすごい「ロヌディングしおそう」23422pv 33 1 user\n### カメムシが苊手な劻のために撃退グッズを発明したニュヌスのオチが面癜い!みんなの撃退方法も5384 pv 10\n### 村雲ルネがVTuberを名乗るようになるたで線集郚むチオシ\nプラむベヌトの時間にLive2Dを勉匷、苊節を乗り越え初配信をするたでの9ヶ月の蚘録(線集郚)1338 pv 16\n### IT職なので日本党囜から劎働するの詊したけど「東京の諞々揃った郚屋から仕事しおたたに旅行するのが䞀番楜」ずいう結論に..14797 pv 36 1 user 2\n### 倧岡山にある『100幎蚘念通』が䜿われおいるの珍しいなず思っお芋おみたら匷そうな人が街を芋䞋ろしおいた「間違いなく悪人」20559pv 44 15 users\n### コミックマヌケット99のために壮倧なパロディを仕蟌んだ『お品曞き』を䜜っおしたった方の努力ず研究がすごすぎた「なぜベ..18366pv 45 1 user\n### どむっずした猫、でちっずした犬の配達(眮き配にお)アプリで䜜成6382 pv 23\n### #现かすぎお䌝わらないアむの歌声を聎かせおのここが奜き遞手暩 #アむの歌声を聎かせお線集可胜376 pv New 5\n### 30 MINUTES SISTERS (テストショット線1)線集郚むチオシ\n### 今幎の花476pv 10\n### 著䜜暩保護期間が死埌70幎になったせいでマむナヌな䜜家の本がごっそり消えおしたった...フェアナヌスの制床を利甚し著䜜物..New 2\n### 「幎内フォロワヌ100000䞇人頑匵りたいな」玀文の公匏アカりントさんがTwitterの認蚌バッゞ獲埗の勢いですごい..6\n### 「赀ちゃんが食べちゃうから片付けおおこう」ずおもちゃを䞀緒に片付けおいたずころ、5歳児が赀ちゃんを恐れた話New 8\n### 芹柀 優 2nd゜ロラむブツアヌ『Yu Serizawa 2nd Live Tour 2021 奜きな人がいるだけで..New 6\n### 幎末の恒䟋行事「犬掗い」が行われおいるようです→掗われるむッヌをたずめたしたUp 4 1 user\n### 郜立高校入詊ぞの英語スピヌキングテスト導入問題Up 50 29\n### お金が欲しいJ〇達は、最初はちょっず緊匵しながらも自分達の魅力を芋せ぀けちゃう映像を動画投皿サむトにアップロヌドしお..New 17 14\n### 岞蟺露䌎は動かない2021 3六壁坂 攟送時のTLたずめNew 12\n### さようなら。今たでありがずうございたした。2021幎に亡くなられた映画人・著名人67\n### カメムシが苊手な劻のために撃退グッズを発明したニュヌスのオチが面癜い!みんなの撃退方法も10\n### 女性が知らないおじさんにいきなり怒鳎られたり声をかけᅵᅵれる被害、「黒いマスク」を䜿いだしたらぐっず枛ったずいう話New 21 3 users\n### 『倧掃陀できない人の特城』に心圓たりのある人たち「床にある本を戻す前に読む」「意思決定を勘定に入れない」New 7 1 user\n### 「たず健康管理、次に家事、残った気力䜓力で仕事」50歳を過ぎお気づいた\"時間配分\"に共感New 2\n### 8歳児が本で読んだ知識を披露するずき必ず埌眮きする「もうごぞんじだろうけど...」に聞き芚え「将来的に蚀っおほしい」New 1\n### 画像ピックアップ!\n### 幎末の氎呚り掃陀の頌もしい味方『ク゚ンさん』仕事人のさっぱりした生き様に惚れる人々「身を粉にしお働く」19493pv 31 1 user\n### #お前よくぞそんなもん撮っおたな遞手暩 2021幎12月版「異䞖界転生甚の橋」「建蚭䞭の東京ビッグサむト」から奇跡の..29014pv 34 28 users\n### 䌚瀟で倧掃陀しおたらずんでもないものを芋぀けおしたった...どうしよう?「抌すなよ、絶察抌すなよ?」「本胜が詊される時」42100pv 36 17 users\n### 「ポケモンは負けたら経隓倀れロだけど、恋愛は負けたら経隓倀二倍でレベルアップすんだよ」謎の人生蚓を教えおくれるマンガ..14368pv 14 1 user\n### 可愛いくたちゃんの圢の“出汁”が出おくる鍋、溶けおいく様があの有名映画のラストシヌンにしか芋えない「党おが想像通り」13790pv 37 1 user 2", "perplexity": 37.4634503540254}}
2
+ {"row_index": 7483, "sha1": "bc5a2bf9e60e409fe4849c9480e349ce73a902be", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0115", "kept_row_index": 47334, "reason": "exact_duplicate", "record": {"url": "https://hiroko-clemena.com/cubitoradial867871.html", "content": "## おすすめの玙の本\n- 新たな時代の「生きる力」\n- ポプラディア å…š18å·» (第䞉版)\n- 没埌10呚幎蚘念本\n- 䞍噚甚なたた螊りきれ。超蚳立川談志\n- 花いっぱいの物語\n- チむの花たば\n- 井䞊ひさしさん、最埌のメッセヌゞ\n- 倜䞭の電話 - 父・井䞊ひさし最埌の蚀葉 集英瀟文庫\n## おすすめの電子曞籍\n- 叞曞さんの怜玢胜力にリスペクト。\n- 100䞇回死んだねこ 芚え違いタむトル集\n- 䞖の䞭には「知っおる぀もり」があふれおいる。\n- 知っおる぀もり~「問題発芋力」を高める「知識システム」の䜜り方~ 光文瀟新曞\n- 癟䞇回も生きたねこがいた。\n- 100䞇回生きたねこ 講談瀟の創䜜絵本\n- “ハタチの短い倏䌑み“がテヌマ。\n- 【電子曞籍限定カット付き!】浜蟺矎波写真集 20\n## おすすめの特遞品\n- 電波を発しないから病棟でも安心\n- 看護医孊電子蟞曞15\n## おすすめの文具・雑貚\n## おすすめの掋曞\n- Midnight Library : The No.1 Sunday Times bestseller and worldwide phenomenon -- Paperback / softback (Main)\n## おすすめの掋曞電子曞籍(電子掋曞)\nDarwin's Argument by Analogy : From Artificial to Natural Selection\"/>\n自然遞択にいたるダヌりィンの類掚的論蚌", "perplexity": 37.504350538032234}}
3
+ {"row_index": 13618, "sha1": "0fe710567d74977e14dcf0cd8bfbff6c0fe8a77d", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0001", "kept_row_index": 38469, "reason": "exact_duplicate", "record": {"url": "https://home2homemovers.com/anapaest302967.html", "content": "リック・アリ゜ン リック・アリ゜ン (本名: ÉricVleminckx、1964幎7月17日、ブリュッセル生たれ)は、ベルギヌ生たれのカナダ人歌手、䜜家、レコヌドプロデュヌサヌです。 バむオグラフィヌ 1990幎、アリ゜ンはブリュッセルのピアノバヌで歌手のララファビアンに䌚いたした。圌らは䞀緒に最初の曲を曞き始め、1991幎にモントリオヌルに行っおファビアンのファヌストアルバムに取り組みたした。このレコヌドは1991幎にカナダで発衚され、商業的に倧きな成功を収めたした。アリ゜ンはファビアンの次のフランコフォンアルバムを制䜜したした 今を楜しめ, ピュア そしお 鵺、これらはすべお非垞にうたく機胜し、カナダずフランス語圏のペヌロッパでいく぀かのヒットシングルを生み出したした。圌はたた圌女の最初の英語のアルバムに取り組んだ ララ・ファビアン. 党郚で、圌は2500䞇以䞊のレコヌドを売りたした。 2002幎のナヌロビゞョン゜ングコンテストでは、アリ゜ンはサンドリヌヌフラン゜ワによるフランスの゚ントリヌ「Ilfautdutemps」の音楜を曞きたした。その同じ幎、圌はゞョニヌ・アリディのアルバムに3曲を寄皿したした Àlavie、àlamort、シングルを含む Penseàmoi. アリ゜ンは、シメヌヌ・バディのデビュヌアルバムをプロデュヌスしたずきに (\n## 知っおたすか ...\nLesMisérablesの架空の人物 ファンティヌヌレ・ミれラブル キャラクタヌファンティヌヌ マヌガレット・ホヌルによっお䜜成されたノィクトル・ナヌゎヌ宇宙内情報性別女性職業工堎劎働者、売春婊重芁 その他FélixTholomyÚs子䟛達コれット(嚘)芪戚マリりス・ポンメルシヌ(矩理の息子)囜籍フランス語 ファンティヌヌ (フランス語の発音: [fɑ̃.tin])は、ノィクトルナヌゎヌの1862幎の小説の架空の人物です レ・ミれラブル。圌女は若いです グリれット 金持ちの孊生に劊嚠したパリで。圌が圌女を捚おた埌、圌女は自分の子䟛、コれットの䞖話をするこずを䜙儀なくされたした。元々は矎しく玠朎な少女だったファンティヌヌは、状況によっお売春婊になるこずを䜙儀なくされ、髪ず前歯を売り、矎しさず健康を倱いたした。圌女が皌いだお金は圌女の嚘を支揎するために送られたす。 圌女は最初にフランスのロヌズ・ロヌレンスによっおミュヌゞカルで挔奏され、ミュヌゞカルがむギリスに来たずき、パティ・ルポヌンはり゚スト゚ンドでファンティ (\n## ニュヌスで\nこの蚘事 ゜ヌスを匕甚しおいたせん. 助けおください この蚘事を改善する 信頌できる情報源に匕甚を远加するこずによっお。調達されおいない資料は、異議を申し立おられ、削陀される堎合がありたす。゜ヌスを芋぀ける: 「ベルギヌロむダル゚スコヌト」 – ニュヌス · 新聞 · 本 · 孊者 · JSTOR (2009幎12月) (このテンプレヌトメッセヌゞを削陀する方法ずタむミングを確認しおください) 2018幎ベルギヌ建囜蚘念日のベルギヌ王立護衛 ザ・ ベルギヌロむダル゚スコヌト (オランダの: Koninklijk escorte te paard、 フランス語: Escorteroyaleàcheval)は、儀匏の際にベルギヌの君䞻に同行する銬ずオヌトバむに取り付けられたナニットです。たた、ブリュッセルの王宮で資栌情報を提瀺する倖囜の元銖や倧䜿に護衛を提䟛したす。 内容 1 組成 2 歎史 3 珟代の護衛 4 も参照しおください 組成 ロむダル゚スコヌトはフルタむムのナニットではありたせんが、䞊蚘のような䞻芁な匏兞の際に集められたす。それは連邊譊察のナニットによっお提䟛されたす。憲兵隊ず譊察が合䜵する前は、ナニットは憲兵隊によっお提䟛されおいたした。マりントされた護衛ずオヌトバむの護衛の2぀のロむダル゚スコヌトがありたす。 歎史 ベルギヌの君䞻は、1830幎のベルギヌの独立以来 (\n## この日に\nアメリカの政治家に぀いおは、ロバヌトバトラヌ(バヌゞニア州の政治家)を参照しおください。 ロバヌトN.バトラヌ2004幎の執事生たれロバヌトニヌルバトラヌ(1927-01-21)1927幎1月21日ニュヌペヌク垂、ニュヌペヌク、米囜死亡したした2010幎7月4日(2010-07-04) (83æ­³)ニュヌペヌク垂、ニュヌペヌク、米囜母校コロンビア倧孊賞ピュヌリッツァヌ賞(1976)科孊者ずしおのキャリア田畑老幎孊粟神医孊 ロバヌトニヌルバトラヌ (1927幎1月21日– 2010幎7月4日)は、米囜囜立老化研究所の初代所長であったアメリカの医垫、ゞェロントロゞスト、粟神科医、および著者でした。バトラヌは、高霢者の瀟䌚的ニヌズず暩利に関する研究ず、健康的な老化ず認知症に関する研究で知られおいたす。 内容 1 バックグラりンド 2 キャリア 3 出版物 3.1 最近の本 4 賞 5 映画出挔 6 参考文献 7 倖郚リンク バックグラりンド ニュヌゞャヌゞヌ州バむンランドで祖父母ず䞀緒に育ったバトラヌは、医孊郚の倚くの教垫による高霢者ずその病気に察する軜蔑的で軜蔑的な態床にショックを受けたした。この態床は埌に「゚むゞズム」ず呌ばれたした。 圌はコロンビア倧孊のコロンビア倧孊を卒業し、そこで線集者を務めたした。 コロンビアデむリヌスペクテむタヌ そしおフィロ゜フィアン゜サ゚ティのメンバヌ。 キャ (\n## その日の絵", "perplexity": 11.989255415888312}}
4
+ {"row_index": 40221, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/brand/B%C3%BCro-Schreibwaren/457", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づく。長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0117/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0117",
5
+ "rows_in": 45972,
6
+ "rows_dropped": 4,
7
+ "rows_out": 45968,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:04.519404+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 4,
12
+ "seconds": 3.2,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/common_crawl_10_filtered_0118.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dfd0c0b3a93b6cbb4e60bd2f0f484ea51d9675fc1125aaafdef287c2dc417930
3
+ size 109199203
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/dedup_removed.jsonl ADDED
@@ -0,0 +1 @@
 
 
1
+ {"row_index": 11738, "sha1": "9975092951d1fc195c56acf67ecc1b0f7326b8e3", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0088", "kept_row_index": 39002, "reason": "exact_duplicate", "record": {"url": "http://www.03150.net/coadjutator1575349.html", "content": "-\nセリヌヌ・ディオンの人生を描いた12/24公開映画『ノォむス・オブ・ラブ』、党囜公開に先駆け12/18詊写䌚に5組10名様をご招埅!\nビヌトルズは終わらない! 『ザ・ビヌトルズ:Get Back』公開蚘念むベント! 12月3日(金)残垭少々!\n玀䌊國屋曞店グランフロント倧阪店にお、『クむヌン 茝ける日々の蚘憶 浅沌ワタル写真集』発売蚘念フェア開催䞭。賌入者限定特兞あり!\n新刊&ロングセラヌ曞籍/楜譜が倧集合の “ザ・ビヌトルズ・ブック・フェア”、奜評に぀き党囜の曞店、CD店、楜噚店で継続䞭! 公匏写真集『ザ・ビヌトルズ:Get Back』も絶賛発売䞭!\n『ザ・ビヌトルズ:Get Back』の公匏写真集の発売ず配信公開を蚘念した “ザ・ビヌトルズ写真展 &ラむノ・むベント” 12月に東京ず倧阪にお開催!\n東郷かおる子(元ミュヌゞック・ラむフ線集長)が今だから語れる仰倩取材゚ピ゜ヌド・ベスト(ワヌスト)10を発衚!「ミュヌゞック・ラむフ講座 2021スペシャル」開催決定\n本日より! 『QUEEN 50呚幎展 −DON’T STOP ME NOW−』鑑賞ちょこっずポむント・ガむド\n## NEWS\nニュヌス\nPRESENT MOVIE MUSIC2021.11.30\n最新クむヌン関連情報たずめ〜QUEEN TOTAL INFORMATION・2021(11/30曎新)\nMUSIC2021.11.25\nMUSIC2021.12.01\nMOVIE MUSIC RELEASE2021.12.01\nゞョン・コルトレヌンのドキュメンタリヌ映画『チェむシング・トレヌン』にアヌティストから絶賛のコメントが到着。来幎1月にはラむノ・むベントも開催\nクリッシヌ・ハむンドのドキュメンタリヌ『Tomorrow is a Long Time』、クリップ映像公開\nMOVIE MUSIC2021.11.30\nゞョン・ベルヌシの生涯を描いたドキュメンタリヌ映画『BELUSHI ベルヌシ』、12月17日(金)よりヒュヌマントラストシネマ有楜町ほか党囜順次公開\n12/8公開『Gorillaz : Song Machine Live From Kong』、劇堎ぞの来堎者にオリゞナル・ステッカヌをプレれント\nシルク・゜ニック、゜りル・トレむン・アワヌドで披露した2曲のパフォヌマンス映像公開\nポヌル・マッカヌトニヌずリンゎ・スタヌ、ゞョヌゞ・ハリスン没埌20呚幎に远悌コメント\nデむノ・グロヌル&グレッグ・カヌスティン、リサ・ロヌブの「Stay」ずラモヌンズの「Blitzkrieg Bop」をカノァヌ\nスミス/コッツェン、ミュヌゞック・ビデオ「Better Days」の舞台裏映像公開\nMUSIC RELEASE2021.11.30\nブラむアン・メむ、ルカ・ミネリのデビュヌ曲「Forever And Ever With You」に参加\nホヌル&オヌツ、2008幎のラむノ・アルバム『Live at the Troubadour』から2曲公開\nブラック・サバスのトニヌ・アむオミ、新むンスト曲「Scent Of Dark」のMV公開\n## LIVE / EVENT\nラむブ / むベント\nEVENT2021.09.28\n11/12より 『QUEEN50呚幎展 -DON’T STOP ME NOW-』\nLIVE2021.10.15\nキング・クリムゟン(远加公挔あり)\nLIVE2021.11.26\n## BOOKS\nブックス\nMUSIC LIFE CLUB60幎代から80幎代に掻躍した掋楜アヌティストのラむノ・スケゞュヌルや本やCDの発売情報をメヌルでお届けしたす。\n## RANKING\nランキング\n## RELEASE\nリリヌス\nカンデ・む・パりロ、ラリヌ・クラむンのプロデュヌスによるクリスマス・゜ング「Feliz Navidad」を急遜リリヌス!\nフランク・ザッパ、『200 Motels』のサントラ50呚幎蚘念゚ディションから「Magic Fingers」の未発衚ノァヌゞョン公開\nレディオヘッドのゞョニヌ・グリヌンりッド、新むンスト曲「Licorice Pizza」公開\nセリヌヌ・ディオンの人生を描いた12/24公開映画『ノォむス・オブ・ラブ』、フランスで初登堎1䜍の倧ヒット!、サントラCDの発売も決定!!\nむヌルズ、1/28にリリヌスされるニュヌ・アルバム『゚クストリヌム・りィッチクラフト』より、「The Magic」を公開\nナタリヌ・コヌル1991幎の『Unforgettable... With Love』、30呚幎蚘念゚ディション発売\nフレディ・マヌキュリヌ1988幎のノォヌカルをフィヌチャヌした「Little Freddie Goes to School」、新ミックス・ノァヌゞョン12月1日発売\n## INFORMATION\nお知らせ", "perplexity": 14.469935396772222}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0118/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0118",
5
+ "rows_in": 45721,
6
+ "rows_dropped": 1,
7
+ "rows_out": 45720,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:05.034452+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 1,
12
+ "seconds": 3.4,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/common_crawl_10_filtered_0119.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:78fd912729d14fb32d86c0d2146a68a3e55f4a38ca6a92a22b3b5f85986b4a66
3
+ size 108835973
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 114, "sha1": "5297f08fa0594712d3e77d78256e34ee8c4f6bb8", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0052", "kept_row_index": 28415, "reason": "exact_duplicate", "record": {"url": "http://iconpeople.com/Chaetopoda1858091.html", "content": "「Log4j」でCISAらがアドバむザリヌ--攻撃者によるネットワヌクスキャンが倚発\nグリッド、「量子むンパむア型分類アルゎリズム」を開発--叀兞マシンで量子特性を再珟\nボヌむングず゚アバス、5G新サヌビスの導入延期を芁請ずの報道--航空機噚ぞの干枉懞念\n日本IBMが新人事斜策を導入--就業堎所の制限緩和や倧卒芁件の廃止など\n䞭囜圓局、Alibaba Cloudずのパヌトナヌシップ停止ずの報道--「Log4j」の脆匱性報告に問題\nAWSの障害、12月に3床目\n日本オラクル、「Oracle Cloud Infrastructure」の補品匷化--「AI Service」「Data Lakehouse」など\n人材倧手2瀟の最新調査にみる「ハむブリッドな䌚議圢態」の憂鬱\n「DXオファリング」ぞシフトするNECのSIビゞネス--堺副瀟長に聞く\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\n日立補䜜所に聞く、倧芏暡開発におけるDevOpsやDevSecOpsの珟圚地\n近幎泚目を集めるDevOpsやDevSecOps。倧芏暡システムの開発での珟状はどうか。日立補䜜所ずDevOpsプラットフォヌムベンダヌのJFrogに聞いた。\nHITOWAホヌルディングス、ワヌクフロヌ・台垳管理システムを刷新\nハりスクリヌニングや介護犏祉・保育斜蚭の運営などの事業を展開するHITOWAホヌルディングスは、ドリヌム・アヌツのりェブデヌタベヌス&ワヌクフロヌシステム「SmartDB」を採甚した。\nレノボ、2022幎のテクノロゞヌトレンドを予枬--「どこからでも仕事ができる」が職堎の新定矩に\nレノボは、毎幎恒䟋の翌幎のテクノロゞヌトレンド予枬を発衚した。2022幎およびさらにその先のテクロノゞヌトレンドに぀いお以䞋の10の予枬が立おられおいる。\n英譊察、挏えいパスワヌド2億2500䞇件を発芋--ハッキングされたクラりドサヌバヌの捜査で\n英囜家犯眪察策庁(NCA)は、ハッキングされたクラりドサヌバヌの捜査䞭に、倧量の挏えいしたパスワヌドのデヌタを発芋し、このデヌタをHaveIBeenPwnedに提䟛した。\n「Apache Log4j」の脆匱性ぞの察応、考慮するべき10の問い--英政府機関NCSC\n「Apache Log4j」の問題は䞀倜にしお解決できるものではない。英囜家サむバヌセキュリティセンタヌ(NCSC)は、この問題に察応する䞊で、専任のITチヌムを擁する䞭芏暡、倧芏暡の組織が考慮するべき10の問いを挙げおいる。\nAI導入䌁業の玄6割が開発の内補化を進めおいる--AI inside調査\n人工知胜(AI)プラットフォヌムを提䟛するAI insideの調査によるず、AI技術を導入する䌁業の玄6割がAI開発の内補化を進めおいるずいう。\n【事䟋】サむバヌ゚ヌゞェント、ActiveCluster構成のFlashArrayでプラむベヌトクラりドの性胜向䞊ず“サヌビスを止めない”高可甚性を実珟\n[PR]むンタヌネット広告、ゲヌム、メディアの3事業を柱にビゞネスを拡倧しおいるサむバヌ゚ヌゞェントは、倚様なサヌビスの開発・運甚の基盀ずなるプラむベヌトクラりドを、オヌプン゜ヌスのOpenStackをベヌスに自ら構築。\nマむクロ゜フト、広告マヌケットプレむスのXandrをAT&Tから買収ぞ\nマむクロ゜フトが広告マヌケットプレむスのXandrをAT&Tから買収するこずが明らかになった。\n幎間5,000件の問合せにkintoneで難なく察応。情シスも 珟堎も幞せにするサむボりズの「ヘルプデスクの最適解」\n[PR]「PCの調子が悪い」「ログむンできない」ずいった電話やメヌルぞの問合せ察応は、情報システム郚門を悩たせる、倧きな悩みではないだろうか。さらには、コロナ犍で䞀気に進んだテレワヌクにより、情報システム郚門のヘルプデスク業務の負荷は高たり続けおいる。\n囜境越えたデゞタル決枈などで協力--シンガポヌルず韓囜、デゞタル経枈協定を締結ぞ\nシンガポヌルはデゞタル経枈協定に関する韓囜ずの亀枉を終えた。この協定の䞋、䞡囜は、囜境を越えたオンラむン決枈、デヌタフロヌ、暗号化、人工知胜(AI)など、耇数の分野で協力するこずになる。\n### 䌁画特集\niPhoneデバむスも統合的に管理\n激しく倉化する業務環境ずリスクに合わせ\n深化するM365セキュリティ\n仮想デスクトップサヌビスの最ᅵᅵ事情\n耇数の遞択肢のあるMSのVDIサヌビス\nどう違うのかをわかりやすく解説\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\nRPA芋盎される”業務”ず”人”の関係\n人的リ゜ヌスを単玔䜜業から解攟!\n高付加䟡倀業務ぞの転換のために\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\nリモヌトワヌクを成功させる方法\n必須ずなるセキュリティをどう匷化するか\n必芁な察策5぀を玹介\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\n楜倩゚コシステムずのシナゞヌを創出\nスタゞアムや経枈圏を生かした実蚌実隓も\n楜倩モバむル流5G共創プログラム\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\n今時プラむベヌトクラりドの䜜り方\n2020幎代のプラむベヌトクラりド環境を\nAzureずVMwareを䟋に玹介\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\n珟堎䞻導のデゞタル倉革\nビゞネス倉革のための“ITの民䞻化”\nそしお 倉わるIT郚門の圹割\nアプリ開発がビゞネスを巊右する\nクラりドネむティブ時代に\nアプリ開発に専念できる環境の重芁性\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所\nVMware Tanzuを利甚したモダナむズを䌝授\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nビゞネスを次のステヌゞぞ!\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\nサヌビスを止めない!\nサむバヌ゚ヌゞェントに聞く高可甚性の実珟\nそこにピュア・ストレヌゞが遞ばれた理由\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\nモダンなOSだからこそ可胜\nMS補品の歎史を振り返りながら\nビルトむンセキュリティの利点を理解\n泚目急䞊昇䞭のDaaS最新情報\nAzure Virtual Desktop最新情報\nデヌタドリブンに足りないもの\nDOMO Japan 川厎氏に聞く\nデヌタ掻甚胜力の向䞊に必芁なこず\n党䞖界22䞇以䞊の䌁業・組織で採甚\nDX時代の顧客䟡倀創出に倧きな圹割を担う\nCI/CD環境の珟実解を玐解く\nハむブリッドクラりド時代の救䞖䞻\n䌁業ITを玠早く進化させるためのAVS\nサヌビス開始から1幎で倧幅に機胜がアップ\nID管理の基瀎知識\n新しい働き方におけるITガバナンスの\n向䞊にむけお\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n新OSのWin11はどう進化したか\nビゞネス䞊の圹割、開発の芁因ず\nWin11が目指した5぀のポむントを玹介\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\n゚ッゞ垂堎の掻性化ぞ\n高たるIoTを䞭心ずした゚ッゞ分野ぞの期埅\nあらゆるモノ・コトが倉化しおいる今\nデゞタルでビゞネスは生たれ倉わる\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした\nこれからの時代のWi-Fi環境構築のポむント\nビゞネスずITの最前線\n官民をあげおDXを急ぐ䞭で、\nキヌマンが語る成功ぞのポむント\nKubernetes掻甚の最適解ずは?\n今、泚目のコンテナを掻甚した柔軟なIT基盀\n運甚、管理の課題を解決しメリットを最倧化\nDNSを守り、DNSで守る\n高床・巧劙化し危険床を増すサむバヌリスク\nいた考えるべきモダンセキュリティのあり方\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\n50幎の経隓を持぀アむネッᅵᅵᅵが提䟛\nナヌザヌ䌁業の䜿いやすさを第䞀に考えた\nワンストップで䜿えるマネヌゞドクラりド\n本圓のデヌタ掻甚できおいたすか?\nデヌタドリブンがあたりたえず蚀われる今あらためお考えたいデヌタ掻甚のありかた\n最新ストレヌゞで倉わるIT運甹\n仮想化テクノロゞヌずFlashArrayの組合せで\n運甚負荷軜枛ず高性胜化を実珟したDMM\n幎間5,000件の問い合わせに察応\n疑問を解消したいナヌザヌも答える情シスも\nみんな幞せになるヘルプデスクの最適解\nオリゞナルコンテンツが満茉!\n意倖ず知らないNutanix HCI の情報を集玄\n読めばわかる!いたHCIが泚目される理由\nクラりド導入が進たない本圓の課題\nITベンダヌだからこそ知っおいる\nクラりドに二の足を螏む䌁業のボトルネック\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\n芋えおたすか?通信のボトルネック\n快適なデゞタルワヌクの阻害芁因を解消", "perplexity": 18.19035287247463}}
2
+ {"row_index": 11426, "sha1": "6e7198b47e3e8beaa83eef36aa9a746fe23dcdd9", "kept_config": "common_crawl_9", "kept_shard": "common_crawl_9_filtered_0094", "kept_row_index": 24537, "reason": "exact_duplicate", "record": {"url": "http://touchan.net/impishly1512808.html", "content": "新型コロナりむルス感染症拡倧は、瀟䌚・経枈掻動に倧きな圱響を䞎え、これたで以䞊に業務や働き方等を芋盎し、安心・安党に事業を継続しおいくこずが求められおいたす。\nSCSKグルヌプは、これたでに培ったノりハりや様々なIT゜リュヌションをご提䟛し、お客様をご支揎しおたいりたす。\nい぀でもどこでも働ける時代が急速に進むなか、「効率よく、迅速に、セキュリティ察策を考慮した」サヌビスをご玹介したす。\n人の移動が制限されるなか、日々の業務においお「人手に頌らない」自動化や、「生産性向䞊を目的ずした」効率化を実珟するサヌビスをご玹介したす。\nリモヌトワヌク環境で安心しお利甚できる䌚蚈・人事絊䞎・経費・勀怠管理のクラりドサヌビス(SaaS)をご玹介したす。\nこれたでの業務の進め方の倉曎を䜙儀なくされるなか、お客様の業務を「止めない」サヌビスをご玹介したす。\nこれたでの消費行動の垞識が倉わるなか、お客様にずっお、その先の顧客ずの「コミュニケヌションの䟡倀を高める」サヌビスをご玹介したす。\nデゞタルテクノロゞヌの進展に䌎い、各䌁業においおは、事業倉革に向けた「攻めのIT」ぞの察応が非垞に重芁な課題ずなっおおりたす。\nたた、「守りのIT」(既存システムの改善等)ぞの察応も必須ずなる䞭、やるこずが山積みずなっおいるのが珟状かず思いたす。\nSCSKは、長幎にわたりお客さたに寄り添い、「守りのIT」を支え続けおきた経隓や、「攻めのIT」に必芁な、豊富な先進゜リュヌション\nずグロヌバルでのDX事業創出の知芋や実瞟に匷みがありたす。\nこれらを駆䜿し、「Co-DX Partner SCSK」ずしお、これからも、そしおどこたでも、お客さたず共にデゞタルトランスフォヌメヌションに挑み続けたす。\n豊富な経隓ずノりハりを掻かしたIT゜リュヌションでSCSKは、䌁業䟡倀の持続的な創造ず向䞊に貢献したす。", "perplexity": 8.876072148910168}}
3
+ {"row_index": 12652, "sha1": "b22b18b5e866966998dbf1d0929dc98b48abf29e", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0066", "kept_row_index": 8666, "reason": "exact_duplicate", "record": {"url": "http://kameiatsushi.jp/cyclobutane1954202.html", "content": "この蚘事はむギリスの䜜家に぀いおです。アリスメアリヌノヌトン生たれのアメリカ人䜜家に぀いおは、アンドレノヌトンを参照しおください。その他の䜿甚法に぀いおは、メアリヌノヌトンを参照しおください。 メアリヌノヌトンメアリヌノヌトン生たれキャスリヌンメアリヌピア゜ン(1903-12-10)1903幎12月10日ロンドン、むギリス、むギリス死亡したした1992幎8月29日(1992-08-29) (88æ­³)ビデフォヌド、デボン、むングランド、英囜職業䜜家囜籍英囜人ゞャンル子䟛のファンタゞヌ小説泚目の䜜品 借り手 シリヌズ マゞックベッドノブ ベッドかざりずほうき 泚目すべき賞カヌネギヌ賞 1952 キャスリヌンメアリヌノヌトン (ニヌピア゜ン、1903幎12月10日– 1992幎8月29日)、専ᅵᅵᅵ的には メアリヌノヌトン、児童曞の英語の著者でした。圌女はで最もよく知られおいたす 借り手 最初の本にちなんで名付けられた䞀連のロヌファンタゞヌ小説(1952幎から1982幎)、そしお今床は珟代の人間文明の真っ只䞭に密かに䜏んでいる小さな人々。 ノヌトンは、1952幎に図曞通協䌚からカヌネギヌ賞を受賞したした。 借り手 英囜の䜜家による今幎の傑出した児童曞ずしお。 2007幎のメダル70呚幎を蚘念しお、これは最優秀賞の䞊䜍10䜜品のひず぀に遞ばれ、これたでのお気に入りの公遞の投祚甚玙を䜜成するためにパ (\n## 知っおたすか ...\n朮颚 1990幎にフロリダ州マむアミを離れる。 歎史 名前: 1958–1983: フェデリコC。 1983: ロワむダル 1983–1988: スタヌシップロワむダル 1988–2000: 朮颚 オヌナヌ: 1958–1983:コスタクルヌズ 1983–2000:プレミアクルヌズ オペレヌタヌ: 1958–1983:コスタクルヌズ 1983–1988:プレミアクルヌズラむン 1988–1997:むルカクルヌズラむン 1997〜 2000幎:プレミアクルヌズラむン レゞストリのポヌト: パナマビルダヌ: ゞオ。アンサルド&C。、セストリポネンテ、むタリア発売: 1957幎3月31日完了: 1958皌働䞭: 1958幎3月故障䞭: 2000幎9月修理: 1989識別:IMO番号:5113230運呜: 沈没 䞀般的な特性 トン数: 21,000 GT長さ: 605フィヌト(184.4 m)ビヌム: 79フィヌト(24.1 m)深さ: 8.6 m(28.2フィヌト)デッキ: 9掚進: 2぀のDeLaval蒞気タヌビン 44,500 kW(59,700 hp)(合蚈) 速床: 21ノット(39 km / h; 24 mph)容量: 840人の乗客クルヌ: 400 SS 朮颚 は、クルヌズの途䞭で乗客が降ろされ、ハリファックス枯で逮捕されたずきに話題になったクルヌズ船でした。その埌、船は3か月埌 (\n## ニュヌスで\nラサヌル芞術倧孊タむプ公的資金による蚭立1984倧統領<PERSON_AFFILIATION>孊生2,700ロケヌション1マクナリヌストリヌト, シンガポヌルキャンパスマクナリヌキャンパス、りィンステットキャンパスニックネヌムラサヌル所属ロンドン倧孊ゎヌルドスミス校りェブサむトlasalle.<PERSON_AFFILIATION>芞術倧孊 (非公匏に ラサヌル)は、シンガポヌルの高等教育機関である公立の芞術およびデザむン機関です。 1984幎に蚭立されたLASALLEには、珟代矎術ずデザむン教育の30以䞊の卒業蚌曞、孊郚および倧孊院プログラムを提䟛する8぀のアヌトおよびデザむンスクヌルがありたす。 LASALLEの孊士号ず修士号は、芞術ず人文科孊の䞖界有数の倧孊の1぀であるロンドン倧孊ゎヌルドスミスカレッゞによっお怜蚌されおいたす。 シンガポヌルのアヌトシヌンの倚くのリヌダ (\n## この日に\n芋せしめ裁刀ず混同しないでください。 「暡擬裁刀」はここにリダむレクトしたす。 1910幎のカヌドゲヌムに぀いおは、暡擬裁刀(カヌドゲヌム)を参照しおください。 この蚘事の䟋ず展望 䞻に米囜ず取匕し、䞻題の䞖界的な芋解を衚すものではありたせん. しおもいいです この蚘事を改善する、必芁に応じお、トヌクペヌゞで問題に぀いお話し合うか、新しい蚘事を䜜成したす。 (2019幎11月) (このテンプレヌトメッセヌゞを削陀する方法ずタむミングを確認しおください) 暡擬詊隓により、研究者は珟実的な蚭定で確蚌バむアスを調べるこずができたす A 暡擬裁刀 行為たたは暡倣の裁刀です。これは法廷に䌌おいたすが、暡擬裁刀は䞋玚裁刀所の裁刀をシミュレヌトし、法廷は䞊蚎裁刀所の公聎䌚をシミュレヌトしたす。実際の裁 (\n## その日の絵\n垂盎たたは急傟斜のラングたたはステップのセット その他の䜿甚法に぀いおは、ラダヌ(曖昧さ回避)を参照しおください。 「ステップラダヌ」はここにリダむレクトしたす。 Teddy GeigerによるEPに぀いおは、Step Ladder(EP)を参照しおください。 はしご延長 A はしご ラングたたはステップの垂盎たたは傟斜したセットです。 自立型たたは壁などの垂盎面に立おかけるこずができる剛性のはしごず、ロヌプやアルミニりム補などの回転可胜なはしごを䞊から吊るすこずができるものの2぀のタむプがありたす。はしごの垂盎郚材は、ストリンガヌたたはレヌル(米囜)たたはスタむル(英囜)ず呌ばれたす。 硬いはしごは通垞持ち運び可胜ですが、䞀郚のタむプは構造物、建物、たたは機噚に恒久的に固定されおいたす。それらは䞀般的に金属、朚、たたはガラス繊維でできおいたすが、䞈倫なプラスチックでできおいるこずが知られおいたすᅵᅵ 内容 1 過去の䜿甚法 2 バリ゚ヌション 2.1 はしご 2.2 柔軟なはしご 3 甹途 4 安党性 5 はしごクラス 6 瀟䌚ず文化 7 むメヌゞギャラリヌ 8 も参照しおください 9 参考文献 10 倖郚リンク 過去の䜿甚法 はしごは叀代の道具ず技術です。スペむンのバレンシアにある蜘蛛の掞窟に描かれおいる、少なくずも10、000幎前の䞭石噚時代の岩絵にはしごが描かれおいたす。この絵は (", "perplexity": 13.609744581139859}}
4
+ {"row_index": 30982, "sha1": "fbbac3fd0a2cda0c531f13b8f4a9af708176e1c3", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0082", "kept_row_index": 37751, "reason": "exact_duplicate", "record": {"url": "http://learnqurantajweed.com/cratometer2017001.html", "content": "## タむアップ䌁画\n-\n日本の畜産を盛り䞊げたい!―JGAPを通じお人にも動物にも優しい畜産を目指す遠野牧堎の挑戊―\nやたぐち蟲業新芏就業ガむダンス(1/26)及び2022幎1月以降の山口県の就業むベント情報\n腐怍物質で䜜物はストレスに匷くなる! デンカ新商品の䜿甚感が凄い\n「林業」の仕事を山口県で実珟しよう! 1/29(土)にオンラむン講座を開催【参加者募集䞭】\n【タキむ研究蟲堎付属園芞専門孊校】入孊金・授業料・寮費食費はれロ。玄7割が実習ずいう環境で、蟲業の実践力を身に着ける!\n「被害株4~5割でも秀品を䜜る」サツマむモ基腐病ず闘う『宮厎玅』の䌝統産地\n牛舎の”可胜性”に泚目!牛舎の新築時は芋逃すこずなかれ!搟乳量アップの決め手ずなる「次䞖代閉鎖型牛舎」ずは\n【犏島県犏島垂】生掻圏内で蟲業を!子育お䞖代にもやさしい「郜垂近郊蟲業」に芋る、新しい営蟲のカタチ\n倧自然なのにアクセス&䜏みやすさGOODな南阿蘇♪ 地域おこし協力隊 ずしお移䜏ぞの第䞀歩を螏み出そう!@熊本\n鹿児島ブランドのさ぀たいもを䞖界ぞ。海倖からの需芁が絶えない、Japapoの矎味しさず安定䟛絊の䌁業秘密に迫る\n組織づくりに尜力!充実しお働ける環境を実珟できた畜産䌁業の秘策ずは\n※アヌカむブ動画公開䞭※【11月21日(日)13:00開催】蟲業法人で働く先茩蟲家が畑からLive配信!こうち就蟲Liveセミナヌ\n䞭山間地に進んで参入? 䞭山間地ず平地で異なるビゞネスモデルに挑戊する「株匏䌚瀟アグリヌンハヌト」に泚目\n就蟲5幎目で売䞊600䞇円も倢じゃない!「儲かる蟲業」を目指すなら、宮厎県小林垂&高原町\n蟲薬っお結局どうなの?持続可胜な蟲業ず䜜物保護に぀いお考えおみたせんか\n*NEW*\nDMM䞻催!次䞖代蟲業を支える最新テック満茉のオンラむン展【参加無料】\n䜜物がうたく育たない。その原因、肥料のせいにしおいたせんか?初代葱垫“寅ちゃん”が提蚀する「すべおは技術力にあり」。その真髄に迫る!\n【蟲業䜓隓in犏島県浪江町】憧れを“珟実に”。蟲業䜓隓を通しお芋えおきた目指す営蟲スタむルず蟲業の可胜性。\n蟲家にずっおこれからはデヌタによる圃堎管理が欠かせたせん。『xarvio(ザルビオ)』で、衛星画像×AI解析を道暙に栜培管理を最適化。\n劎働時間や甚氎量の削枛だけでなく、米䜜りも倉える『WATARAS(ワタラス)』ずは\n【動画付き】倧分県ならではの自然環境ず手厚い支揎でいざ、就蟲! 癜ねぎやキャベツなど【露地野菜栜培】の魅力や高原蟲業のメリットずは?\n蟲家に寄り添い60幎以䞊 進化した軜トラック ダむハツ「新ハむれット トラック」が登堎!\n吹きすさぶ寒颚をシャットアりト。蒞れずに䜓感プラス5°C、防颚むンナヌで䜜業しおみた\n## 新着蚘事\n人手䞍足にあえぐ蟲家の意倖な救䞖䞻ずは。公務員が副業を解犁した真意\n1/25オンラむン開催・蟲家の孊び舎 ~スマヌト蟲業の珟状ずこれから~ supported by BASF\n【䌚員限定】野菜を最高の状態で届ける! 品質を萜ずさない少量倚品目蟲家の発送術\n「アグリナゞカン」の支揎に芋る、蟲家ず働き手双方がWin-Winな雇甚\n郜䌚の䜏宅地で地方の有機米を売るには? 青森の蟲業法人の挑戊\n蟲家におすすめの圹立぀䟿利な資栌・必芁な免蚱10遞!\n「芳音山合衆囜を築きたい」 研修生に蟲地ず販路を提䟛するワケ\n挫画「宮厎に移䜏した蟲家の嫁日蚘」【第194話】ズッキヌニの雄花節玄䜜戊\n凍霜害の仕組み、簡単にできる4぀の防ぎ方\n有機蟲業を科孊する ~タニシでなぜ有機蟲業が可胜になるのか解説~", "perplexity": 37.851285623906676}}
5
+ {"row_index": 32891, "sha1": "dbcfb23fbea415b432fdd6d0c86b8bfdced8ba81", "kept_config": "common_crawl_3", "kept_shard": "common_crawl_3_filtered_0049", "kept_row_index": 20025, "reason": "exact_duplicate", "record": {"url": "https://com.nicovideo.jp/community/co167755", "content": "## 運営からのお知らせ\n- {{feed.publishedAt.format('YYYY/MM/DD HH:mm')}} {{feed.title}}\n## 生攟送のお知らせシェアする\n- 読み蟌み䞭...\n- 生攟送情報が取埗できたせんでした。\n### 最近行われた生攟送\n- 最近の生攟送䞀芧はありたせん。\n### 予玄スケゞュヌル\n- 生攟送の予玄はありたせん\n- {{live_released.basic.started_at | dateStringAsString}} タむムシフト芖聎可 {{live_released.basic.title}} 攟送者:{{live_released.user.nickname}}\n## コミュニティ動画{{videoList.total}}ä»¶ / {{videoList.max}}ä»¶\n- コミュニティ動画の読み蟌みに倱敗したした。\n- クロヌズコミュニティの動画はフォロヌしないず芋れたせん。\nコミュニティ動画はありたせん。\nニコニコ動画にアップロヌドした動画をコミュニティに登録したしょう!\nコミュニティをフォロヌしお動画を登録したしょう!", "perplexity": 26.33880445541843}}
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0119/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_10",
4
+ "shard": "common_crawl_10_filtered_0119",
5
+ "rows_in": 45927,
6
+ "rows_dropped": 5,
7
+ "rows_out": 45922,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:06.137531+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 5,
12
+ "seconds": 3.3,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0120/common_crawl_10_filtered_0120.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fb09c4589e5edaaa558999b30846354880fe31ecae7a9db08e5609f94fbd5183
3
+ size 109300511
outputs_v5_dedup/common_crawl_10/common_crawl_10_filtered_0120/dedup_removed.jsonl ADDED
@@ -0,0 +1,5 @@
 
 
 
 
 
 
1
+ {"row_index": 5563, "sha1": "b22b18b5e866966998dbf1d0929dc98b48abf29e", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0066", "kept_row_index": 8666, "reason": "exact_duplicate", "record": {"url": "https://site.paulafariasadvocacia.com/caique1164452.html", "content": "この蚘事はむギリスの䜜家に぀いおです。アリスメアリヌノヌトン生たれのアメリカ人䜜家に぀いおは、アンドレノヌトンを参照しおください。その他の䜿甚法に぀いおは、メアリヌノヌトンを参照しおください。 メアリヌノヌトンメアリヌノヌトン生たれキャスリヌンメアリヌピア゜ン(1903-12-10)1903幎12月10日ロンドン、むギリス、むギリス死亡したした1992幎8月29日(1992-08-29) (88æ­³)ビデフォヌド、デボン、むングランド、英囜職業䜜家囜籍英囜人ゞャンル子䟛のファンタゞヌ小説泚目の䜜品 借り手 シリヌズ マゞックベッドノブ ベッドかざりずほうき 泚目すべき賞カヌネギヌ賞 1952 キャスリヌンメアリヌノヌトン (ニヌピア゜ン、1903幎12月10日– 1992幎8月29日)、専門的には メアリヌノヌトン、児童曞の英語の著者でした。圌女はで最もよく知られおいたす 借り手 最初の本にちなんで名付けられた䞀連のロヌファンタゞヌ小説(1952幎から1982幎)、そしお今床は珟代の人間文明の真っ只䞭に密かに䜏んでいる小さな人々。 ノヌトンは、1952幎に図曞通協䌚からカヌネギヌ賞を受賞したした。 借り手 英囜の䜜家による今幎の傑出した児童曞ずしお。 2007幎のメダル70呚幎を蚘念しお、これは最優秀賞の䞊䜍10䜜品のひず぀に遞ばれ、これたでのお気に入りの公遞の投祚甚玙を䜜成するためにパ (\n## 知っおたすか ...\n朮颚 1990幎にフロリダ州マむアミを離れる。 歎史 名前: 1958–1983: フェデリコC。 1983: ロワむダル 1983–1988: スタヌシップロワむダル 1988–2000: 朮颚 オヌナヌ: 1958–1983:コスタクルヌズ 1983–2000:プレミアクルヌズ オペレヌタヌ: 1958–1983:コスタクルヌズ 1983–1988:プレミアクルヌズラむン 1988–1997:むルカクルヌズラむン 1997〜 2000幎:プレミアクルヌズラむン レゞストリのポヌト: パナマビルダヌ: ゞオ。アンサルド&C。、セストリポネンテ、むタリア発売: 1957幎3月31日完了: 1958皌働䞭: 1958幎3月故障䞭: 2000幎9月修理: 1989識別:IMO番号:5113230運呜: 沈没 䞀般的な特性 トン数: 21,000 GT長さ: 605フィヌト(184.4 m)ビヌム: 79フィヌト(24.1 m)深さ: 8.6 m(28.2フィヌト)デッキ: 9掚進: 2぀のDeLaval蒞気タヌビン 44,500 kW(59,700 hp)(合蚈) 速床: 21ノット(39 km / h; 24 mph)容量: 840人の乗客クルヌ: 400 SS 朮颚 は、クルヌズの途䞭で乗客が降ろされ、ハリファックス枯で逮捕されたずきに話題になったクルヌズ船でした。その埌、船は3か月埌 (\n## ニュヌスで\nラサヌル芞術倧孊タむプ公的資金による蚭立1984倧統領<PERSON_AFFILIATION>孊生2,700ロケヌション1マクナリヌストリヌト, シンガポヌルキャンパスマクナリヌキャンパス、りィンステットキャンパスニックネヌムラサヌル所属ロンドン倧孊ゎヌルドスミス校りェブサむトlasalle.<PERSON_AFFILIATION>芞術倧孊 (非公匏に ラサヌル)は、シンガポヌルの高等教育機関である公立の芞術およびデザむン機関です。 1984幎に蚭立されたLASALLEには、珟代矎術ずデザむン教育の30以䞊の卒業蚌曞、孊郚および倧孊院プログラムを提䟛する8぀のアヌトおよびデザむンスクヌルがありたす。 LASALLEの孊士号ず修士号は、芞術ず人文科孊の䞖界有数の倧孊の1぀であるロンドン倧孊ゎヌルドスミスカレッゞによっお怜蚌されおいたす。 シンガポヌルのアヌトシヌンの倚くのリヌダ (\n## この日に\n芋せしめ裁刀ず混同しないでください。 「暡擬裁刀」はここにリダむレクトしたす。 1910幎のカヌドゲヌムに぀いおは、暡擬裁刀(カヌドゲヌム)を参照しおください。 この蚘事の䟋ず展望 䞻に米囜ず取匕し、䞻題の䞖界的な芋解を衚すものではありたせん. しおもいいです この蚘事を改善する、必芁に応じお、トヌクペヌゞで問題に぀いお話し合うか、新しい蚘事を䜜成したす。 (2019幎11月) (このテンプレヌトメッセヌゞを削陀する方法ずタむミングを確認しおください) 暡擬詊隓により、研究者は珟実的な蚭定で確蚌バむアスを調べるこずができたす A 暡擬裁刀 行為たたは暡倣の裁刀です。これは法廷に䌌おいたすが、暡擬裁刀は䞋玚裁刀所の裁刀をシミュレヌトし、法廷は䞊蚎裁刀所の公聎䌚をシミュレヌトしたす。実際の裁 (\n## その日の絵\n垂盎たたは急傟斜のラングたたはステップのセット その他の䜿甚法に぀いおは、ラダヌ(曖昧さ回避)を参照しおください。 「ステップラダヌ」はここにリダむレクトしたす。 Teddy GeigerによるEPに぀いおは、Step Ladder(EP)を参照しおください。 はしご延長 A はしご ラングたたはステップの垂盎たたは傟斜したセットです。 自立型たたは壁などの垂盎面に立おかけるこずができる剛性のはしごず、ロヌプやアルミニりム補などの回転可胜なはしごを䞊から吊るすこずができるものの2぀のタむプがありたす。はしごの垂盎郚材は、ストリンガヌたたはレヌル(米囜)たたはスタむル(英囜)ず呌ばれたす。 硬いはしごは通垞持ち運び可胜ですが、䞀郚のタむプは構造物、建物、たたは機噚に恒久的に固定されおいたす。それらは䞀般的に金属、朚、たたはガラス繊維でできおいたすが、䞈倫なプラスチックでできおいるこずが知られおいたす。 内容 1 過去の䜿甚法 2 バリ゚ヌション 2.1 はしご 2.2 柔軟なはしご 3 甹途 4 安党性 5 はしごクラス 6 瀟䌚ず文化 7 むメヌゞギャラリヌ 8 も参照しおください 9 参考文献 10 倖郚リンク 過去の䜿甚法 はしごは叀代の道具ず技術です。スペむンのバレンシアにある蜘蛛の掞窟に描かれおいる、少なくずも10、000幎前の䞭石噚時代の岩絵にはしごが描かれおいたす。この絵は (", "perplexity": 13.609744581139859}}
2
+ {"row_index": 6865, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=145734", "content": "感情は声の調子に珟れたす。声は心の状態を映す鏡であり、心にずっお声を発するこずは重芁なこずです。しかし、声を出す筋肉は䜿わなければ衰えおいきたす。意識しお声を出さなければ、萜ち蟌んだり、䞍安になったり、自信が持おなくなったりしおしたいたす。\n声ペガを行うず、よく通る声になり、心が萜ち着き、ポゞティブな気持ちになるこずができたす。たた、声ペガの瞑想は心がリセットされ、集䞭力が増したす。北里倧孊病院のガン患者サロンでは医垫や看護垫立䌚いのもず、その有甚性を確認しお頂きたした。\n声ペガは、い぀でもどこでも行える手軜で簡単な健康法です。小さいお子様からご高霢者たで幅広い方に行っお頂けたす。1日たった5分、数週間続けるだけでご自分の声ず心の倉化を実感するこずができるでしょう。\n最初は自分で(発声を)制限しおいる事に初めお気づきたした。声が倉わったのが実感できお感動したした。無理やり(声に)自信を持たなきゃず思っおいたんですが、喉が開いお、胞が開いお、䜓から自信が湧いおくる実感がありたす!\n「笑いのペガは本圓に笑っおしたった」「䜓も軜くなったように感じたした」「心が穏やかになり、安定したした」「声を出す、笑うこずによりリラックスができおよかった」「ありがずうの蚀葉のずころ、兄が10日に亡くなったので身に染みた」「父に感謝ず思えた」\n「デスクワヌクでもできるペガのポヌズを教えおいただいお、仕事の合間にぜひやっおみたいず思った」「呌吞の倧切さを痛感したした。GW明け、忙しい䞭リラックスできたした」「ゆっくりず初心者ペヌスでできた」「ほが初めおでしたが動きがわかりやすかったです」\n「盞手に䌝えたいこずを䌝えるために、自ら発信するこずは重芁であるず思った」「皆が楜しんでペガを行っおいお非垞によかった」「匕き蟌たれるように声がを䜓感するこずができた」「声をだすこずでリフレッシュするこずができた」「声を出すこずで、患者さん・家族が次第に笑顔になっおいく様子をみるこずができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえおいお、高いなら高いなりの、䜎いなら䜎いなりの良い声があり、自分の心地よい声があるずお話しおもらえ、自分の声の特性を知るこずができたした。\n...\n青山孊院倧孊囜際政治孊郚卒。ペガの本堎むンドで資栌を取埗。講垫歎10幎。延べ5000人以䞊を指導。スポヌツキャスタヌずしお2000時間以䞊の生攟送経隓を持ち、その䞭で発声が心のコンディションに関係しおいるこずに気づくᅵᅵ長幎に枡るペガの呌吞法ず瞑想やアナりンス経隓を生かし独自の「声ペガ」プログラムを開発。\n侖界13カ囜に展開されおいるペガ専門誌「yoga JOURNAL」に寄皿しおいたす。声ペガに぀いおは勿論、出産を機に産前産埌のママのための蚘事も執筆䞭です。\n食物アレルギヌであったこずから生粋のマクロビ育ち。倧孊圚孊䞭にLIMAクッキングスクヌルでマクロビオティック䞊玚コヌスを修了し、食に぀いおも時々発信しおいたす。\n声ペガを孊び広めたいずいう方に向けお、指導者逊成講座を開蚭したした。オンラむン講座ですので幎䞭どの時期からでも自宅でスタヌトできたす。隙間時間を掻甚しお声ずペガのスキルアップず同時にむンストラクタヌを目指すこずが可胜です。\nペガ講垫資栌のない方にも受講頂けたす。実際、ペガむンストラクタヌだけでなく、アナりンサヌや女性経営者の方にもご受講頂いおいたす。「䌝える」を仕事にしおいる方で掻動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}}
3
+ {"row_index": 24415, "sha1": "b225d3f363d211d9cddf83cbce5fe6abc1399902", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0041", "kept_row_index": 45959, "reason": "exact_duplicate", "record": {"url": "http://theangusshow.com/KT/beaubelle/T8613IIu13937K/index.htm", "content": "いきいき犏祉䌚(八王子共立ビル3F)\n2005幎蚭立された「いきいき犏祉䌚」は圓ビル3階に事務所を構えおいたす。\n圓䌚の目指すグルヌプホヌムは「その人らしく豊かに掻きる」こずです。\n地域に根をはり家族、地域ぞホヌムを開攟し、開かれた斜蚭を目指しおいたす。\nたた、個別ケアを重芖した医療ずの連携で安党な暮らしず自由な空間の䞡立をはかっおいたす。\nそしお、専門性が発揮でき、働き甲斐のある職員集団を確立しおたいりたす。\n連携に必芁䞍可欠な医療においおは、同ビルの共立医療䌚がありたす。\n実瞟ず連携を柱に、地域の方ず䞀緒に介護斜蚭を぀くっおたいりたす。\nけんせい歯科(八王子共立ビル4F)\n【蚺察宀】\nナニット(治療台)数は7台で、珟圚のナニット台数ず倉わりたせんが、ナニットのスペヌスを広くずり、車怅子などの利甚がよりスムヌズにできるようにしたした。\n【個宀のナニットの蚭眮】\nむンプラント治療などの小手術をより安党に行なえるよう個宀のナニットを1台蚭眮したした。\n【口腔倖バキュヌムの蚭眮】\n蚺療宀で発生・飛散する粉塵などを吞匕する口腔倖バキュヌムを新たに各ナニットに蚭眮し、スタッフや患者さんが安心しお治療が受けられるよう蚺療宀内のクリヌン化をすすめたす。\n【埅合宀】\n埅合宀が窓に面しお明るくなり、広くゆったりずした埅合宀になりたす。子䟛が遊べるプレヌコヌナヌや、歯科に関するいろいろな情報をい぀でも閲芧できる図曞コヌナヌを蚭眮したす。", "perplexity": 17.00314412789913}}
4
+ {"row_index": 27146, "sha1": "4e084ec727e6f5e04ff03349d1b49edc3236cea1", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0034", "kept_row_index": 46361, "reason": "exact_duplicate", "record": {"url": "https://mosaicproperties.com/Columban408136.html", "content": "## 新着\nPoly、「Microsoft Teams Rooms」察応の䌚議宀゜リュヌションを発衚\nレノボ、SCSKずゲノム解析分野で協業\n浊和レッズ、「LINE WORKS」を党瀟員に\nクラりドアプリベンダヌがより䜿いやすく―アむネットのIaaSサヌビス「Next Generation EASY Cloud」\nアマゟン、高霢者芋守りサヌビス「Alexa Together」を米囜で開始--自立した生掻を支揎\nマむクロ゜フト、宇宙事業「Azure Space」の゚コシステム拡倧--゚アバスず提携も\n「Raspberry Pi OS」、2皮類が提䟛ぞ--Buster版ずBullseye版\nガヌトナヌのアナリストが説く「゚ッゞ×機械孊習」のむンパクトずは\n「Microsoft Teams Store」が刷新--アプリの怜玢やむンストヌルが容易に\nオラクルの第2四半期決算、予想䞊回る--クラりド事業が奜調\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\n量子コンピュヌティングのビゞネス利甚--経営陣が今すべきこず\n量子コンピュヌティングは開発の初期段階にあり、珟時点で倚額の研究開発費を投じるのは難しいかもしれない。だが、自瀟ぞの朜圚的な圱響の調査は早めに開始しおおく必芁がある。\n教育業界においお急務ずなっおいるICT環境の敎備においおのヘッドセット、りェブカメラ、ビデオバヌなどのオヌディオ・映像機噚の管理方法を解説したす。\nラむブ画面から賌入可胜--ピヌチ・ゞョンがラむブコマヌスサヌビス採甚\n䞋着やルヌムりェアなどを展開するピヌチ・ゞョンは、日本ナニシスのラむブコマヌスサヌビス「Live kit(ラむブキット)」を採甚した。新しいCXを提䟛し、消費者ずの継続的な関係を構築するこずが目的だずいう。\nAWS、クラりドベヌスの゜リュヌションでファむザヌの創薬加速化を支揎\nAWSずファむザヌが連携し、新薬の開発や生産、臚床詊隓に向けた配送を迅速化するクラりドベヌスの゜リュヌションを生み出しおいる。\n日立ず応甚地質、「地䞭可芖化サヌビス」匷化--オンデマンドで高粟床な埋蚭物䜍眮情報を提䟛\n日立補䜜所ず応甚地質は、䞊䞋氎道、ガス、電気、通信などむンフラ事業者や斜工/蚭蚈業者向けに展開する「地䞭可芖化サヌビス」を匷化し、クラりドを掻甚した新たなオンデマンドサヌビスずしお提䟛開始した。\n医療機噚メヌカヌの朝日むンテック、本瀟ず海倖グルヌプ䌚瀟で「SAP S/4HANA」皌働\n朝日むンテックは、本瀟ず海倖グルヌプ䌚瀟でERP「SAP S/4HANA」、クラりドプラットフォヌム「SAP HANA Enterprise Cloud」、分析゜リュヌション「SAP Analytics Cloud」を導入し、7月から本栌運甚しおいる。\nパナ゜ニックら、コン゜ヌシアム蚭立--生䜓認蚌掻甚の業界暪断型プラットフォヌム実珟ぞ\nJCB、DNP、パナ゜ニック、りそなHDは、生䜓認蚌を掻甚した業界暪断型プラットフォヌム「顔認蚌マルチチャネルプラットフォヌム」の実珟に向け、コン゜ヌシアムを蚭立した。\n゚クむニクス、アフリカで事業拡倧ぞ--デヌタセンタヌ䌁業MainOne買収を発衚\nデヌタセンタヌ倧手゚クむニクスは、西アフリカを本拠地ずするデヌタセンタヌ䌁業MainOneを3億2000䞇ドルで買収し、アフリカで事業を拡倧するず発衚した。\n仮想デスクトップサヌビスの最新事情~マむクロ゜フトのVDIサヌビスはどう違う?\n[PR]働き方改革や新型コロナりむルス感染症察策に䌎い、自宅などからのリモヌトワヌクが身近になり、情報挏えい察策の芳点から仮想デスクトップ基盀(VDI)の利掻甚しおいるずころは倚いだろう。\nRustをLinuxカヌネル開発の第2蚀語に採甚する詊みに向け新パッチ\nLinuxカヌネルの開発にRustを採り入れようずする動きが少しず぀歩を進めおいるかもしれない。\n### 䌁画特集\n゚ッゞ垂堎の掻性化ぞ\n高たるIoTを䞭心ずした゚ッゞ分野ぞの期埅\nOSS掻甚が新しい時代のビゞネスを拓く\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nデヌタドリブンに足りないもの\nDOMO Japan 川厎氏に聞く\nデヌタ掻甚胜力の向䞊に必芁なこず\nKubernetes掻甚の最適解ずは?\n今、泚目のコンテナを掻甚した柔軟なIT基盀\n運甚、管理の課題を解決しメリットを最倧化\nID管理の基瀎知識\n新しい働き方におけるITガバナンスの\n向䞊にむけお\n楜倩゚コシステムずのシナゞヌを創出\nスタゞアムや経枈圏を生かした実蚌実隓も\n楜倩モバむル流5G共創プログラム\n50幎の経隓を持぀アむネットが提䟛\nナヌザヌ䌁業の䜿いやすさを第䞀に考えた\nワンストップで䜿えるマネヌゞドクラりド\n最新ストレヌゞで倉わるIT運甹\n仮想化テクノロゞヌずFlashArrayの組合せで\n運甚負荷軜枛ず高性胜化を実珟したDMM\nRPA芋盎される”業務”ず”人”の関係\n人的リ゜ヌスを単玔䜜業から解攟!\n高付加䟡倀業務ぞの転換のために\nオリゞナルコンテンツが満茉!\n意倖ず知らないNutanix HCI の情報を集玄\n読めばわかる!いたHCIが泚目される理由\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nサむバヌ犯眪者の優勢に立぀\n導入・運甚がしやすい次䞖代セキュリティ\n巧みな攻撃を防ぐ「NDR」に泚目!\nᅵᅵゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nモダンなOSだからこそ可胜\nMS補品の歎史を振り返りながら\nビルトむンセキュリティの利点を理解\n本圓のデヌタ掻甚できおいたすか?\nデヌタドリブンがあたりたえず蚀われる今あらためお考えたいデヌタ掻甚のありかた\n芋えおたすか?通信のボトルネック\n快適なデゞタルワヌクの阻害芁因を解消\nZscaler Digital Experience(ZDX)導入の䟡倀\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした\nこれからの時代のWi-Fi環境構築のポむント\n珟堎䞻導のデゞタル倉革\nビゞネス倉革のための“ITの民䞻化”\nそしお 倉わるIT郚門の圹割\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\nビゞネスずITの最前線\n官民をあげおDXを急ぐ䞭で、\nキヌマンが語る成功ぞのポむント\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\n党䞖界22䞇以䞊の䌁業・組織で採甚\nDX時代の顧客䟡倀創出に倧きな圹割を担う\nCI/CD環境の珟実解を玐解く\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\niPhoneデバむスも統合的に管理\n激しく倉化する業務環境ずリスクに合わせ\n深化するM365セキュリティ\nリモヌトワヌクを成功させる方法\n必須ずなるセキュリティをどう匷化するか\n必芁な察策5぀を玹介\nアプリ開発がビゞネスを巊右する\nクラりドネむティブ時代に\nアプリ開発に専念できる環境の重芁性\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\n今時プラむベヌトクラりドの䜜り方\n2020幎代のプラむベヌトクラりド環境を\nAzureずVMwareを䟋に玹介\n仮想デスクトップサヌビスの最新事情\n耇数の遞択肢のあるMSのVDIサヌビス\nどう違うのかをわかりやすく解説\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所", "perplexity": 17.17320013269038}}
5
+ {"row_index": 40113, "sha1": "d13f69dbcce0ab97a66b7eb97e9b98e5d69dd620", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 28263, "reason": "exact_duplicate", "record": {"url": "http://messy.homeip.net/helminthism23636.html", "content": "Poly、「Microsoft Teams Rooms」察応の䌚議宀゜リュヌションを発衚\nレノボ、SCSKずゲノム解析分野で協業\n浊和レッズ、「LINE WORKS」を党瀟員に\nクラりドアプリベンダヌがより䜿いやすく―アむネットのIaaSサヌビス「Next Generation EASY Cloud」\nアマゟン、高霢者芋守りサヌビス「Alexa Together」を米囜で開始--自立した生掻を支揎\nマむクロ゜フト、宇宙事業「Azure Space」の゚コシステム拡倧--゚アバスず提携も\n「Raspberry Pi OS」、2皮類が提䟛ぞ--Buster版ずBullseye版\nガヌトナヌのアナリストが説く「゚ッゞ×機械孊習」のむンパクトずは\n「Microsoft Teams Store」が刷新--アプリの怜玢やむンストヌルが容易に\nオラクルの第2四半期決算、予想䞊回る--クラりド事業が奜調\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\n量子コンピュヌティングのビゞネス利甚--経営陣が今すべきこず\n量子コンピュヌティングは開発の初期段階にあり、珟時点で倚額の研究開発費を投じるのは難しいかもしれない。だが、自瀟ぞの朜圚的な圱響の調査ᅵᅵᅵ早めに開始しおおく必芁がある。\n教育業界においお急務ずなっおいるICT環境の敎備においおのヘッドセット、りェブカメラ、ビデオバヌなどのオヌディオ・映像機噚の管理方法を解説したす。\nラむブ画面から賌入可胜--ピヌチ・ゞョンがラむブコマヌスサヌビス採甚\n䞋着やルヌムりェアなどを展開するピヌチ・ゞョンは、日本ナニシスのラむブコマヌスサヌビス「Live kit(ラむブキット)」を採甚した。新しいCXを提䟛し、消費者ずの継続的な関係を構築するこずが目的だずいう。\nAWS、クラりドベヌスの゜リュヌションでファむザヌの創薬加速化を支揎\nAWSずファむザヌが連携し、新薬の開発や生産、臚床詊隓に向けた配送を迅速化するクラりドベヌスの゜リュヌションを生み出しおいる。\n日立ず応甚地質、「地䞭可芖化サヌビス」匷化--オンデマンドで高粟床な埋蚭物䜍眮情報を提䟛\n日立補䜜所ず応甚地質は、䞊䞋氎道、ガス、電気、通信などむンフラ事業者や斜工/蚭蚈業者向けに展開する「地䞭可芖化サヌビス」を匷化し、クラりドを掻甚した新たなオンデマンドサヌビスずしお提䟛開始した。\n医療機噚メヌカヌの朝日むンテック、本瀟ず海倖グルヌプ䌚瀟で「SAP S/4HANA」皌働\n朝日むンテックは、本瀟ず海倖グルヌプ䌚瀟でERP「SAP S/4HANA」、クラりドプラットフォヌム「SAP HANA Enterprise Cloud」、分析゜リュヌション「SAP Analytics Cloud」を導入し、7月から本栌運甚しおいる。\nパナ゜ニックら、コン゜ヌシアム蚭立--生䜓認蚌掻甚の業界暪断型プラットフォヌム実珟ぞ\nJCB、DNP、パナ゜ニック、りそなHDは、生䜓認蚌を掻甚した業界暪断型プラットフォヌム「顔認蚌マルチチャネルプラットフォヌム」の実珟に向け、コン゜ヌシアムを蚭立した。\n゚クむニクス、アフリカで事業拡倧ぞ--デヌタセンタヌ䌁業MainOne買収を発衚\nデヌタセンタヌ倧手゚クむニクスは、西アフリカを本拠地ずするデヌタセンタヌ䌁業MainOneを3億2000䞇ドルで買収し、アフリカで事業を拡倧するず発衚した。\n仮想デスクトップサヌビスの最新事情~マむクロ゜フトのVDIサヌビスはどう違う?\n[PR]働き方改革や新型コロナりむルス感染症察策に䌎い、自宅などからのリモヌトワヌクが身近になり、情報挏えい察策の芳点から仮想デスクトップ基盀(VDI)の利掻甚しおいるずころは倚いだろう。\nRustをLinuxカヌネル開発の第2蚀語に採甚する詊みに向け新パッチ\nLinuxカヌネルの開発にRustを採り入れようずする動きが少しず぀歩を進めおいるかもしれない。\n### 䌁画特集\n゚ッゞ垂堎の掻性化ぞ\n高たるIoTを䞭心ずした゚ッゞ分野ぞの期埅\nOSS掻甚が新しい時代のビゞネスを拓く\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nデヌタドリブンに足りないもの\nDOMO Japan 川厎氏に聞く\nデヌタ掻甚胜力の向䞊に必芁なこず\nKubernetes掻甚の最適解ずは?\n今、泚目のコンテナを掻甚した柔軟なIT基盀\n運甚、管理の課題を解決しメリットを最倧化\nID管理の基瀎知識\n新しい働き方におけるITガバナンスの\n向䞊にむけお\n楜倩゚コシステムずのシナゞヌを創出\nスタゞアムや経枈圏を生かした実蚌実隓も\n楜倩モバむル流5G共創プログラム\n50幎の経隓を持぀アむネットが提䟛\nナヌザヌ䌁業の䜿いやすさを第䞀に考えた\nワンストップで䜿えるマネヌゞドクラりド\n最新ストレヌゞで倉わるIT運甹\n仮想化テクノロゞヌずFlashArrayの組合せで\n運甚負荷軜枛ず高性胜化を実珟したDMM\nRPA芋盎される”業務”ず”人”の関係\n人的リ゜ヌスを単玔䜜業から解攟!\n高付加䟡倀業務ぞの転換のために\nオリゞナルコンテンツが満茉!\n意倖ず知らないNutanix HCI の情報を集玄\n読めばわかる!いたHCIが泚目される理由\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nサむバヌ犯眪者の優勢に立ᅵᅵ\n導入・運甚がしやすい次䞖代セキュリティ\n巧みな攻撃を防ぐ「NDR」に泚目!\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nモダンなOSだからこそ可胜\nMS補品の歎史を振り返りながら\nビルトむンセキュリティの利点を理解\n本圓のデヌタ掻甚できおいたすか?\nデヌタドリブンがあたりたえず蚀われる今あらためお考えたいデヌタ掻甚のありかた\n芋えおたすか?通信のボトルネック\n快適なデゞタルワヌクの阻害芁因を解消\nZscaler Digital Experience(ZDX)導入の䟡倀\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした\nこれからの時代のWi-Fi環境構築のポむント\n珟堎䞻導のデゞタル倉革\nビゞネス倉革のための“ITの民䞻化”\nそしお 倉わるIT郚門の圹割\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\nビゞネスずITの最前線\n官民をあげおDXを急ぐ䞭で、\nキヌマンが語る成功ぞのポむント\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\n党䞖界22䞇以䞊の䌁業・組織で採甚\nDX時代の顧客䟡倀創出に倧きな圹割を担う\nCI/CD環境の珟実解を玐解く\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\niPhoneデバむスも統合的に管理\n激しく倉化する業務環境ずリスクに合わせ\n深化するM365セキュリティ\nリモヌトワヌクを成功させる方法\n必須ずなるセキュリティをどう匷化するか\n必芁な察策5぀を玹介\nアプリ開発がビゞネスを巊右する\nクラりドネむティブ時代に\nアプリ開発に専念できる環境の重芁性\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\n今時プラむベヌトクラりドの䜜り方\n2020幎代のプラむベヌトクラりド環境を\nAzureずVMwareを䟋に玹介\n仮想デスクトップサヌビスの最新事情\n耇数の遞択肢のあるMSのVDIサヌビス\nどう違うのかをわかりやすく解説\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所", "perplexity": 16.992037616227375}}