diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/common_crawl_3_filtered_0103.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/common_crawl_3_filtered_0103.parquet new file mode 100644 index 0000000000000000000000000000000000000000..be48fa4a25a1e2d648c04304ae980055274c3b73 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/common_crawl_3_filtered_0103.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:879ce15ff889ce3994cc926655cd8d15f19c60b806c3a1ebde8217d9d2574b98 +size 109881858 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..1b32ed11f1869f5ade0fbd914e51ebf6c6043ea9 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_removed.jsonl @@ -0,0 +1,5 @@ +{"row_index": 5420, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Linges-de-Protection-pour-Couche-Lavable-Réutilisable-Blanc-pcs-Happy-Cherry-Pcs-Bébé-Couches-72854/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} +{"row_index": 28230, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://mac.x0.com/flatterer44227.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 38233, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://sawaji.com/boldly865.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} +{"row_index": 41399, "sha1": "9470606e9b3398eb818e05198ee2080c0243b235", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0016", "kept_row_index": 3380, "reason": "exact_duplicate", "record": {"url": "http://sangeetmilon.org/bushmanship464658.html", "content": "### オードリー・ヘップバーンの『マイ・フェア・レディ』を学生に見せると「キモい」「ありえない」という反応ばかりで原作者が..179985 pv 370 348 users 296\n### 「なんか大麻とか育ててます?」1人暮らしで30アンペア、電気代4万でサーバ稼働させていたら電力会社からつっこまれた話140527 pv 161 58 users 1155\n### 「めっちゃ住みたい」小田原の物件を見てたらワンルームの部屋に一般人には埋められなさそうなサイズの本棚を備えてる謎の物..148419 pv 140 96 users 796\n### 独り身の人が「家族と縁が切れているから頼む」とスナックのママに葬儀をお願いしても大体あることで詰んでしまうという話141102 pv 378 313 users 585\n### エアコンの室外機が盗まれた...何故?と思いきや、最近増えているらしい「売れるものの塊、犯人たちからすると最高の餌」24173 pv New 76 18 users 40\n### アシスタントに入ってもらった時に「こ...こいつは絶対すぐ漫画家になる......!」と思った人の話アプリで作成33595 pv New 33 7 users 1\n### 『週刊ダイヤモンド』は「脱炭素」を特集する前に一度冷静に自分の名前を確かめたほうがいい8314 pv New 50 3\n### アニメ『るろうに剣心』のサブタイトル、今見返すとダサさが光ってとても味わい深い「サブタイだけは目を反らしてた」29568 pv New 37\n### マブラヴ系モデラーが集まるWEB展示会「戦術機祭5」編集部イチオシ\nマブラヴの日にマブラヴ関係の模型の展示会をする、という企画に作品が集まる(編集部)2429 pv 60\n### 狩野英孝さん、『Apex』をプレイしすぎて英語が読めてないし、ゲーム内用語でもなくなってて「しぬ」「俺たちの狩野英孝」19329 pv New 6\n### 横浜の「少々の高低差」があると言われた土地を見に行ったらこれだった「横浜の勾配にしてはこれはスタンダードかも」18603 pv New 43 3 users 7\n### みんなのご注文はリプトンですか工作編集部イチオシ\nリプトン紙パックの『ごちうさ』コラボパッケージをキーホルダーやポーチにアレンジ(編集部)5806 pv Up 60 2 users\n### 傘につけると“マップの現在地”“動く点P”になれるアクセサリーがとてもよい!「ノーベル賞」ものだし普通にかわいい14804 pv New 10 3 users\n### #手取り13万 なのに『ウマ娘』への課金だけで赤字になる図解に「生活必需品だからね」でも『ウマ娘』課金をやめたところ..12618 pv New 17\n### 「第一発見者が最初に死体を発見したんですね」的な新次郎構文で当然と思われる事実を積み上げることで真実に迫る進次郎が探..29556 pv New 24 3 users 5\n### 漫画家が単行本の表紙やオマケページなどを描いても出版社からは1円ももらえない9512pv 33 1 user\n### 『落ち込んだ時は「人間やれば出来る」ということを目に焼き付けよう』▷やれば出来るの難易度が高過ぎる件アプリで作成7872 pv New 17 4 users\n### Photoshopの風景ミキサー機能を『たこ焼き』に使ってみたらこうなった「絶対おいしいやつだ」「2万年後のたこ焼き」10824 pv New 15\n### 一見意味不明。東方三博士の夢のお告げ。編集部イチオシ\n男性3人が同じベットで寝ている不思議な絵についてツイートしたら解説が続々と集まる(編集部)11252 pv 122 47 users 32\n### アメリカ人に朝一で仕事を依頼したら \"Ten four.\" と言われ、意味を取り違えて困惑「なにその初見殺し」100477 pv Up 183 317 users 78\n### 「四肢の麻痺もなく言葉も出てくる、ただパソコンの操作だけができない」脳梗塞になりかけて救急搬送された田中圭一先生のツ..49225 pv Up 264 27 users 91\n### 「男の子ってこういうのが好きなんでしょ?」シンプル・イズ・ベストなお弁当に歓喜のリプ集まる→そして飯テロ祭へ31604pv 22 24\n### 「イクラ好きのツイートを見ると思い出す」ロシア人の無限イクラ編に複雑な思い「これになりたいような、なりたくないような」26709pv 41 2 users 6\n### 「自信過剰自信家ボーイッシュちゃん」が可愛くて悶絶する人たち「心臓止まったかと」アプリで作成7492 pv New 6\n### 娘「学校でSDGsを勉強してるが、あれ考えた人はあんなの絶対達成できないって分かって言ってると思う」私「....え?」アプリで作成98187 pv 259 371 users 53\n### バイトで大声を出すのが出来なくてクビになったことを親に言ったら親も同じような経験をしていて「親子」を感じたアプリで作成26985 pv 18 2 users 19\n### 今まで書いたもの まとめ編集部イチオシ\nほっこりするお話やファンタジックな物語など 1ツイート140字で描き出す小説まとめ(編集部)1389 pv 4\n### 「真の悪人が存在する」という「信念」が、真の悪人を目の前に実在させてしまう4732 pv New 4 27\n### 「目立たないように生きていた人たち」が強烈なリーダーと出会って個性派集団になる話70421pv 77 36 users 25\n### クライアントがカナヲちゃんみたいな態度をとってきて困る→集まる体験談「全部どうでもいいけど利益が欲しい」50444pv 50 4 users 52\n### 「『シン・ゴジラ』のこのシーンって変じゃね?」に対して「正常性バイアスでは」「演出だよ」など76901 pv 102 131 users 91\n### 最近は減ってきた古い純喫茶は今のうちに行っておきたいよね、というお話「こういう店めっちゃ好き」28907 pv 52 11 users 1\n### 自分の趣味全開で絶対読んだほうがいいと思うラノベ10選1872 pv New 7 2 users\n### リバイス感想まとめアプリで作成 編集部イチオシ\n『仮面ライダーリバイス』の主人公一家や満を持して変身したキャラの行く末を案じる(編集部)1358 pv 5\n### 『相席食堂』にファイルーズあいが出演してカオス神回...ファイルーズあいといえば「徐倫」「キュアサマー」「清少納言」「え..19382pv 32 1 user 2\n### 「刃物を持ちながら行動をする時は気をつけて」その危険を教えるマンガがヒヤリハットすぎる...他のあるある行動も続々59603pv 50 22 users\n### キチムシ・アトムズいよいよ本日初日! 開催直前画像まとめ。279 pv 3\n### 靴下を買いに行って売り場をよく見たら休憩中のなんかかわいいのが乗ってた「気持ちよさそうw」44417 pv 29 22 users 1\n### 21モンCub耐久&スプリント秋の陣に新品レーシングスーツで参戦だ!コケるなよーコケるなよー。アプリで作成975 pv New 1 41\n### 【快晴】秋の紅葉 涸沢カール奥穂高岳登山【絶景】9964pv 5 28\n### ミニPCを買ったった編集部イチオシ\n価格の安いミニPCを発見し購入!ベンチマークのスコアを向上させ、サイズなどを確認(編集部)5698 pv 11\n### 足元用のパネルヒーターが全然温かくならないと思ったら自分のせいだった「猫集まってくるやつ」65920 pv 16 2 users 5\n### 「味噌汁の具材は何を入れてもよろしい!」 #土井善晴 先生の教えに従ったら お椀の中に宇宙が!?アプリで作成10967 pv 12 20\n### メンクリで受付の人が「初診ですと最短で一月以降でしたら...」と言ってて泣きそうになってしまったアプリで作成65136 pv 86 11 users 47\n### お笑い路線の心霊ビデオ『監死カメラ』シリーズは酒を飲みながらみんなで見るのが丁度いい。「ハライタ」「コワすぎ!」等の..12675pv 19 1 user\n### 「メンタル終わり過ぎてバラエティもドラマもホラーも見れなくなった」人の話「世界猫歩き最高」「誰も傷つかない物がみたい」36205pv 105 25 users\n### D・キッサン先生のマンガ「評判の悪い未亡人に金を借りに行く男の話」の彼女に魅せられ想いを馳せる人々15536 pv 18 1 user 2\n### 西園寺琴歌さん考察のようなもの編集部イチオシ\nデレマスのキャラ考察「西園寺の娘」「アイドルの琴歌」「私」それぞれの認識の違い(編集部)988 pv 5\n### 親が自分の夢や将来のために作ってくれた貯金を散財してしまったけど、親になってそれもそれで良かったと思う話24233 pv 11 10\n### 意外と知られていないようなので「鉄人28号」の誕生編をまとめてみた。(^^)/4664pv 11 1 user\n### 「新事業のQRコードを読み取ってもらえませんか?」新手の詐欺らしき勧誘が日本各地で行われているらしい98072 pv 478 192 users 138\n### 『最強銀河 究極ゼロ ~バトルスピリッツ~』配信での、監督と総作画監督のイラスト&裏話編集部イチオシ\nアニメとしてバトルを観てもらえるよう試行錯誤したと語る 当時の貴重なラフ画も(編集部)3147 pv 18\n### 【Adobe MAX】砂漠が一瞬で緑化するニューラルフィルターや鬼滅の刃フォント追加、ブラウザ版illustrato..16095pv 77 53 users 51\n### 『株式会社マジルミエ』の誘い方が危険すぎる...「ブラック企業の常套句」「白いシャツを着たキュウべぇ」など24112pv 31 1 user 7\n### エアコンの室外機が盗まれた...何故?と思いきや、最近増えているらしい「売れるものの塊、犯人たちからすると最高の餌」New 76 18 users 40\n### 21モンCub耐久&スプリント秋の陣に新品レーシングスーツで参戦だ!コケるなよーコケるなよー。New 1 41\n### 『週刊ダイヤモンド』は「脱炭素」を特集する前に一度冷静に自分の名前を確かめたほうがいいNew 50 3\n### ケモ夫人13 2 users\n### 傘につけると“マップの現在地”“動く点P”になれるアクセサリーがとてもよい!「ノーベル賞」ものだし普通にかわいいNew 10 3 users\n### 横浜の「少々の高低差」があると言われた土地を見に行ったらこれだった「横浜の勾配にしてはこれはスタンダードかも」New 43 3 users 7\n### アシスタントに入ってもらった時に「こ...こいつは絶対すぐ漫画家になる......!」と思った人の話New 33 7 users 1\n### 「自信過剰自信家ボーイッシュちゃん」が可愛くて悶絶する人たち「心臓止まったかと」New 6\n### バイトで大声を出すのが出来なくてクビになったことを親に言ったら親も同じような経験をしていて「親子」を感じた18 2 users 19\n### コロナの間に「勢いで社屋ごと売っちゃった」結果、物理的に出社に戻れなくなった会社の話に反響 「職場は概念」New 38 5 users 11\n### 自分の趣味全開で絶対読んだほうがいいと思うラノベ10選New 7 2 users\n### Photoshopの風景ミキサー機能を『たこ焼き』に使ってみたらこうなった「絶対おいしいやつだ」「2万年後のたこ焼き」New 15\n### 狩野英孝さん、『Apex』をプレイしすぎて英語が読めてないし、ゲーム内用語でもなくなってて「しぬ」「俺たちの狩野英孝」New 6\n### 「真の悪人が存在する」という「信念」が、真の悪人を目の前に実在させてしまうNew 4 27\n### 土井善晴先生の「余った野菜は味噌汁にしたらよろしいわ」の教えに従いナスの皮だけを大量に入れたらコスモになった「NAS..New\n### 画像ピックアップ!\n### 電話しながら思いっきり笑っていた飼い主さん、通話終了した途端に猫さんがガブ!→あるあるだけど何なのか「しっかりせんと!」36083pv 19 1 user", "perplexity": 39.27260511156153}} +{"row_index": 43642, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://www.marlaecohen.com/Auk73926.html", "content": "## キャンパス日誌\n### はつみ先生の記念礼拝が執り行われました\n### 後期も対面授業が再開されました\n### 先生に敬和学園大学名誉教授の称号が贈られました\n### 過去と未来をつなぐべく、現在を生きること。\n### 10月の空の下で\n### リベラルアーツ -自由な精神を育む教育\n### 2021年度の後期が始まりました\n### 収穫の秋となりました\n## 自由な学びが、\nあなたの未来を支える\n人生の生き方を学び、人格を形づくる、これからの大切な4年間。\n敬和学園大学での学びが、あなたの未来を支えます。\n## 動画で敬和を知ろう!\n敬和学園大学紹介ビデオ2021\n【キャンパスツアー】敬和学園大学のキャンパスを紹介します\n【キャンパスツアー】敬和学園大学の学生寮を紹介します\n【体験授業】フィリップ・ウィン先生(人文学部、英語教育(KEEP))\n【インタビュー】一戸信哉先生に「情報メディア」について聞いてみました\n【サークル紹介】ボードゲーム・サークル\n【アクティブラーニング】サンタプロジェクト\n【学生制作映像作品】しばたオイスターバー 2021「米蔵ココロ」3分バージョン", "perplexity": 33.60160173725642}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..a00deef7a7129a9abf89eae6beac645a36343fb1 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0103/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0103", + "rows_in": 45920, + "rows_dropped": 5, + "rows_out": 45915, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:02.751500+00:00", + "compression": "ZSTD", + "verified_sha1": 5, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/common_crawl_3_filtered_0104.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/common_crawl_3_filtered_0104.parquet new file mode 100644 index 0000000000000000000000000000000000000000..230a61672855d359f5bcd810b65327caeb77d666 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/common_crawl_3_filtered_0104.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2d5f1cd29e7cb8657b26da77aa484f16df66bef505fb8370eed0617224339da9 +size 110618973 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..3602333d03bf25301e679f747e142762e164a78d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 12316, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/online-dating-good-messages/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..ccb9331bae54a4bc02e9b10a5e4a7220401bef00 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0104/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0104", + "rows_in": 45933, + "rows_dropped": 1, + "rows_out": 45932, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:03.123628+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.2, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/common_crawl_3_filtered_0105.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/common_crawl_3_filtered_0105.parquet new file mode 100644 index 0000000000000000000000000000000000000000..58e35e6f7662e29cd094b73208351f0d2e868787 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/common_crawl_3_filtered_0105.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4d73a21b4e4ed97517340214a33db9ff5b5464785c99c36e7f4787fab9c74b11 +size 109662883 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..eec95249f6d5b339efedb7fc4fe3e43b47dd4b6b --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 17363, "sha1": "2d5228f2007b22b4335c4da6fcf0288db283abfc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 27505, "reason": "exact_duplicate", "record": {"url": "http://first-logo.com/klendusity1802916.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\nお知らせ段ブロック迷路に鏡の通路を設置しました\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.4629146532851}} +{"row_index": 30492, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://meaningfulmarriages.com/crembalum162126.html", "content": "## キャンパス日誌\n### はつみ先生の記念礼拝が執り行われました\n### 後期も対面授業が再開されました\n### 先生に敬和学園大学名誉教授の称号が贈られました\n### 過去と未来をつなぐべく、現在を生きること。\n### 10月の空の下で\n### リベラルアーツ -自由な精神を育む教育\n### 2021年度の後期が始まりました\n### 収穫の秋となりました\n## 自由な学びが、\nあなたの未来を支える\n人生の生き方を学び、人格を形づくる、これからの大切な4年間。\n敬和学園大学での学びが、あなたの未来を支えます。\n## 動画で敬和を知ろう!\n敬和学園大学紹介ビデオ2021\n【キャンパスツアー】敬和学園大学のキャンパスを紹介します\n【キャンパスツアー】敬和学園大学の学生寮を紹介します\n【体験授業】フィリップ・ウィン先生(人文学部、英語教育(KEEP))\n【インタビュー】一戸信哉先生に「情報メディア」について聞いてみました\n【サークル紹介】ボードゲーム・サークル\n【アクティブラーニング】サンタプロジェクト\n【学生制作映像作品】しばたオイスターバー 2021「米蔵ココロ」3分バージョン", "perplexity": 33.60160173725642}} +{"row_index": 36130, "sha1": "b5fe9b8b4c6b7b49e690a20ec5cdb8bce345f9b3", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0014", "kept_row_index": 41420, "reason": "exact_duplicate", "record": {"url": "http://kkcmba.org/equestrianism4150207.html", "content": "ウィンブルドントーナメントの最後から2番目の日は、ケンブリッジ公爵夫人とサセックス公爵夫人が最初に一緒に、安全を確保せずに、つまり夫なしで「仕事」に出かけた日でした。そして、この2人の女性の最初のペアリングは、最初に考えるよりもはるかに有益であることが判明しました。\nファッションオブザーバーの推定によると、年末までに、ハリー王子の妻は衣服やアクセサリーに約100万ポンドを費やすことができます。止まらないなら\n彼らは女性の権利のために戦ったり、ジェンダーの不平等に反対する行動に参加したり、単に私たちがより自由に感じるのに役立つ服を作ったりします。フェミニズムがファッショントレンド以上のものであるモデルやデザイナーについて話します\n君主、ファーストレディ、政治家の秘密のメッセージを画像にエンコードして解読すると同時に、ブランド、スタイル、または色の服装の選択が、彼らの参加なしに実際に重要なアイデアを放送する方法を伝えます\n英国のジャーナリストはすでに「美女と野獣」からファーストレディ「ディズニープリンセスベル」を吹き替えています\nメーガンのウェディングドレスに関するファッションデザイナーのエミリア・の発言は、王室のクライアントなしでブランドを離れる可能性がありますが、ハリー王子の妻は恨みを抱く人ではありません\n### エディタの選択\n### 興味深い記事\n### 新着\n### 今月の人気\nデザイナーのコレクションに基づいて、人生で最もクレイジーで最も素晴らしいパーティーにすばやく備えるためのヒントとムードボードを用意しました。\nスタイリストと一緒に、私たちはビジネスワードローブが退屈すぎると思う人を説得し、オフィスライフのためのバッグの最も勝利した5つのモデルを提供します\n新しい本の中で、女王の妹マルグレーテ2世は、メアリー皇太子妃の豪華な衣装についてひそかに批判しました。\n近い将来、豪華な衣装を披露する特別な機会を計画しているかどうかは関係ありません。クチュールは、新しいシーズンの前に常にインスピレーションの大部分を占めています。\n石、とんがりコーン、羽とフリンジ、アップリケとストライプ、滑らかなまたは質感のある革で作られたクラッチ、プラスチックのトートバッグ、キャンバスの買い物客の形の装飾-私たちはあなたが本当に何かを選ぶことができるようにすべての最も関連性のあるモデルを集めました\nクレア・デインズのシンデレラドレス、アンバーヴァレッタのマリーアントワネット、ダイアナ妃の初歩的なランジェリースタイル-メットガラに関しては常に記憶に残るこれらの有名な有名人のパフォーマンスがここにあります\nジャンヌダルク、クレオパトラ、フリーダカーロにインスピレーションを得た繊細なブローチが特徴\n起こりうるあらゆる都市災害から私たちを守る軽量で実用的なジャケットが再びトレンドになっています\nあなたのワードローブから暖かい季節の最も用途の広いアイテムを手に入れる時が来ました\nこのトレンドに対するデザイナーの愛情は飛躍的に高まっています。今世紀末の自分のフォトアルバムを整理して(または有名人のアーカイブを参照して)、今シーズンの流行の組み合わせを探す時が来ました。\n3月にアメリカ大統領の妻が見せた衣装の総費用は2万ドル以上でした\n実用主義者はそれらを否定しますが、トレンドセッターは最も非現実的なトレンドでさえ意味を見つけることができます。新しいシーズンにマイクロバッグを着用する方法と、最もクールなバッグを見つける場所を説明します。同時に、それらが必要かどうかを確認します\nどのスターが最も印象的でエキセントリックなキャンプスタイルの衣装を選んだのか、そして誰がドレスコードを無視することに決めたのかを示します\n新しいシーズンの最も興味深い画像は、すぐに私たちのデザイナーの範囲で見つかります\n公爵夫人の衣装は現在、プロのスタイリスト、元ヴォーグ編集者、貴族のバージニアチャドウィックヒーリーによって作られています。\n伝説の黄金のヘビがどのようにしてジュエリー帝国の主要なシンボルの1つになったのか、そしてエリザベス・テイラーがそのような時計を彼女のスクリーンヒロインが着用することを主張した理由を説明します\n最も魅力的なファッショニスタであるジョージ王子とシャーロット王女のワードローブを分析します。これらは間もなく母親のトレンドセッターと競争します。\nかつて人気のあったアクセサリーは、普遍的な認識から大規模な迫害へと移行し、新しい役割で私たちに戻ってきています。\n長い休止の後、ケンブリッジ公爵夫人は公共事業に戻ります:今日、彼女の殿下はギルウェルパークで若いスカウトと通信します\n適切なスーツが「私は何も着ていない」という病気の寛解につながることが証明されています。しかし、ワードローブ全体に合う味方をどのように選択しますか?", "perplexity": 10.606269212516896}} +{"row_index": 38050, "sha1": "8909eafee3cdaf2a9cea20f11649fb790df0a4a4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0032", "kept_row_index": 8295, "reason": "exact_duplicate", "record": {"url": "http://tubaozcakmak.com/itamalate2403902.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\n- Architecture天井高5メートルの大開口斜めに架かった天井の棟木。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.471962430162886}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..ab5234635ac47c8d1aa8cf65484b2750f2dac5bf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0105/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0105", + "rows_in": 45905, + "rows_dropped": 4, + "rows_out": 45901, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:03.280137+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.0, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/common_crawl_3_filtered_0106.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/common_crawl_3_filtered_0106.parquet new file mode 100644 index 0000000000000000000000000000000000000000..793ff0c093c4f0c28a532be75f6f61e000f1ec78 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/common_crawl_3_filtered_0106.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8d0561eeb0369efa3395ce3c1d0dccec69fd20ae0b6aa0d8d3872654bd1fec89 +size 109547114 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..de50d928381fb32eedc2ff649cf39121ac4510fb --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 31549, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "https://urikata.biz/S-Line6-Packs-de-microphones-714145/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} +{"row_index": 41474, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/brand/F%C3%BChrungsschienen/986", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..328c7bacc4ac52a31c98bc3048af8f6edcf4b1ab --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0106/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0106", + "rows_in": 45902, + "rows_dropped": 2, + "rows_out": 45900, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:03.846645+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.2, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/common_crawl_3_filtered_0107.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/common_crawl_3_filtered_0107.parquet new file mode 100644 index 0000000000000000000000000000000000000000..c1e373e357ef19507c9a027be49e4874656818be --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/common_crawl_3_filtered_0107.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:872446df7ccebac197b8c6c726530690a189644a3c31eaf603b57969b8828dbd +size 110460001 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..a920890181eebc2a5dc5c8778b6b0ecc6a09e096 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 6810, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Schaltnetzteile-225467-RS-Schaltnetzteil-W-Netzteil-V.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 45355, "sha1": "66b8487c17e638c5b7895af003fe209e6d3ffe6d", "kept_config": "common_crawl_2", "kept_shard": "common_crawl_2_filtered_0014", "kept_row_index": 39498, "reason": "exact_duplicate", "record": {"url": "http://krishnaeyeinstitute.org/electrothermometer423310.html", "content": "博報堂メディカル、製品の解説役を3DCGキャラクターに--動画制作の課題を解決\n「IBM Quantum Network」にLGエレクトロニクスが参加\nアップル「App Store」、開発者の累計収益は30兆円規模\n住友生命、AI-OCR「Flax Scanner」導入--給付金請求手続きのデジタル化を推進\n目指す未来を描き「いま」に変えることに挑戦--NECソリューションイノベータ・杉山社長\nAIで成功を勝ち取る3つのポイント--DataRobot ジャパン カントリーマネージャー・氏\nリコー、改正電子帳簿保存法対応の「RICOH 証憑電子保存サービス」提供開始\n第一工業製薬、ベテラン検査員の分析技術をAIで標準化--速度6倍に\n新ドコモグループとして始動の年に--NTTドコモ・井伊社長\nツールの「使いにくさ」「散在」がデータ分析の障壁に--アルテリックス調査\nNews from ZDNet Worldwide\n本国アメリカのZDNetが発信する海外最新IT動向やテクノロジトレンドに関するニュースを毎日発信!\n「2022年はデジタル新革命元年に」--アバナード・安間代表\n2022年に向けたIT企業のトップメッセージを紹介する。アバナードの代表は、デジタルの答えるべき新たな「問い」に答えを出していくとする。\n2022年に向けたIT企業のトップメッセージを紹介する。日本テラデータの社長は、「DXの成果を出す年」を掲げる。\nさらなる価値をデータから得られる年に--Tableau・佐藤カントリーマネージャー\n2022年に向けたIT企業のトップメッセージを紹介する。Tableauのカントリーマネージャーは、2022年が「さらなる価値をデータから得られる年」と述べる。\nコニカミノルタが実践する「イノベーション志向経営」、社内外でDXを実現する方法論\nZDNet Japanが開催した「ZDNet Japan Summit 2021」では、コニカミノルタ 常務執行役の氏が、同社の「イノベーション志向経営」の実践例とその成果を紹介した。\n今もっとも人気のあるプログラミング言語であるPythonは、今や多くの開発プロジェクトで第1の選択肢になっている。\n2022年に向けたIT企業のトップメッセージや年頭所感を紹介する。ノキアソリューションズ&ネットワークス 代表執行役員社⻑の-氏は、一層クリーンなデジタル社会を目指し、日本の5Gとデジタル化を支えていくという。\nセキュリティソフト「ノートン360」に搭載される暗号通貨のマイニング機能「Norton Crypto」をめぐり、懸念の声が起っている。\n「iPhone」の「iOS」OSには、たくさんの機能がある。見つけにくい機能や設定も非常に多い。筆者が気に入っているiOSの5つの小技を紹介する。\n専用アプリでスキャンして決済--NTT東、札幌市内に「スマートストア」開設\nNTT東日本 北海道事業部は、決済や仕入れにデジタルを活用した店舗「スマートストア」を2021年12月20日にNTT大通14丁目ビル(札幌市)に開設した。同社の従業員でなくても、専用アプリを使ってビル来訪時に利用できる。\n財務省税関、検査対象の国際郵便物をAIで自動識別--NECが処理システム構築へ\n### 企画特集\niPhoneデバイスも統合的に管理\n激しく変化する業務環境とリスクに合わせ\n深化するM365セキュリティ\n最新ストレージで変わるIT運用\n仮想化テクノロジーとFlashArrayの組合せで\n運用負荷軽減と高性能化を実現したDMM\nモダンなOSだからこそ可能\nMS製品の歴史を振り返りながら\nビルトインセキュリティの利点を理解\nアプリが簡単にできるって本当?\nセールス、マーケ、人事の3名が実際に体験\n業務をローコードツールで改善してみた\nクラウド導入が進まない本当の課題\nITベンダーだからこそ知っている\nクラウドに二の足を踏む企業のボトルネック\n今時プライベートクラウドの作り方\n2020年代のプライベートクラウド環境を\nAzureとVMwareを例に紹介\nビジネスとITの最前線\n官民をあげてDXを急ぐ中で、\nキーマンが語る成功へのポイント\n大事なのは”仕事の段取り”\n幅広い業務を任されているからこそできる\nひとり情シス流の業務改善術\nエッジ市場の活性化へ\n高まるIoTを中心としたエッジ分野への期待\nOSS活用が新しい時代のビジネスを拓く\n本当のデータ活用できていますか?\nデータドリブンがあたりまえと言われる今あらためて考えたいデータ活用のありかた\nリモートワークを成功させる方法\n必須となるセキュリティをどう強化するか\n必要な対策5つを紹介\nオープンソース活用はあたりまえ!\nそんな今だからこそ改めて考える\n企業ITにおけるOSS活用のメリットとリスク\nビジネスの推進には必須!\nZDNet×マイクロソフトが贈る特別企画\n今、必要な戦略的セキュリティとガバナンス\n仮想デスクトップサービスの最新事情\n複数の選択肢のあるMSのVDIサービス\nどう違うのかをわかりやすく解説\nあらゆるモノ・コトが変化している今\nデジタルでビジネスは生まれ変わる\nオリジナルコンテンツが満載!\n意外と知らないNutanix HCI の情報を集約\n読めばわかる!いまHCIが注目される理由\nID管理の基礎知識\n新しい働き方におけるITガバナンスの\n向上にむけて\n年間5,000件の問い合わせに対応\n疑問を解消したいユーザーも答える情シスも\nみんな幸せになるヘルプデスクの最適解\n現場主導のデジタル変革\nビジネス変革のための“ITの民主化”\nそして 変わるIT部門の役割\nKubernetes活用の最適解とは?\n今、注目のコンテナを活用した柔軟なIT基盤\n運用、管理の課題を解決しメリットを最大化\nビジネスのためのデータ基盤構築\nDX時代の企業成長はデータ活用が鍵\n新たな展開を後押しするSQL Server活用\n楽天エコシステムとのシナジーを創出\nスタジアムや経済圏を生かした実証実験も\n楽天モバイル流5G共創プログラム\nハイブリッドクラウド時代の救世主\n企業ITを素早く進化させるためのAVS\nサービス開始から1年で大幅に機能がアップ\nDNSを守り、DNSで守る\n高度・巧妙化し危険度を増すサイバーリスク\nいま考えるべきモダンセキュリティのあり方\nサービスを止めない!\nサイバーエージェントに聞く高可用性の実現\nそこにピュア・ストレージが選ばれた理由\nデータ活用は次のステージへ\nトラディショナルからモダンへ進化するBI\n未来への挑戦の成功はデータとともにある\nビジネスを次のステージへ!\n50年の経験を持つアイネットが提供\nユーザー企業の使いやすさを第一に考えた\nワンストップで使えるマネージドクラウド\nRPA見直される”業務”と”人”の関係\n人的リソースを単純作業から解放!\n高付加価値業務への転換のために\n全世界22万以上の企業・組織で採用\nDX時代の顧客価値創出に大きな役割を担う\nCI/CD環境の現実解を紐解く\n注目急上昇中のDaaS最新情報\nAzure Virtual Desktop最新情報\n新OSのWin11はどう進化したか\nビジネス上の役割、開発の要因と", "perplexity": 18.715055272742}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..6d6aba20dd392b7734d14e4ade472f2432abd1ea --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0107/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0107", + "rows_in": 45949, + "rows_dropped": 2, + "rows_out": 45947, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:04.003080+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/common_crawl_3_filtered_0108.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/common_crawl_3_filtered_0108.parquet new file mode 100644 index 0000000000000000000000000000000000000000..ab7f46fe60fdaa330289b4302a2800b09479dcd6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/common_crawl_3_filtered_0108.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fea6829c6df4642123f81b7ec90daccbe0e020386b20dff6de78adce8ef6514e +size 109850535 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..b52c067a763238fc47fb0791ca937c22bb41556c --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 480, "sha1": "688210fe9cb333b74e131baaa8d8214341176d27", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0078", "kept_row_index": 24434, "reason": "exact_duplicate", "record": {"url": "http://kicksgrade.com/dryopithecid939517.html", "content": "## お休み\nいつも見ていただきありがとうございます。\n突然ですが、ブログ管理人の体調不良(心臓)により、当面の間、お休みさせていただくことにしました。\n今まで応援していただき、心から感謝しております。\nありがとうございました。\n- 自分のこと :\n水泳に行かれたり、長い距離を歩かれたりしてたから、\n体調が悪いなんて、思いもしませんでした。\n実は、私が少しブログを休んあっぴぃ豚の角煮とありがとう妻さん、ブログお休みびっくりです。\nまずは、ゆっくり休んで体調整えてくださいね。\n待ってるので、また絶対再開してくださいね。\nそうか、心臓悪かったのですね。\n私よりKAYOKO豚の角煮とありがとうNo titleえっ、妻さん、とても驚きましたよ。\nだって水泳もされるし、たくさん歩かれる妻さんがお具合が悪いなんて。\n淋しいですが、しっかり休養されてまた戻ってきてくださるのをみーモフママ豚の角煮とありがとうNo title妻さま!\n突然のお休み宣言驚きました。\n妻さまブログのお休みは寂しいけれど、\nゆっくり養生して元気になって、\nまた戻って来て下さる日を待っているから、\n本当に本当にpcommeparis豚の角煮とありがとうえええ妻さん、心配心配((T_T))。。\nそんな「今までありがとう」的な言葉は・・・(TдT)。。\n待っていますので、\nゆっくり、ゆっくり休んで下さい。。\nほんと、心身ともに、養すぷまんて豚の角煮とありがとうお加減いかがですか?\nお大事になさってくださいね。\nお返事不要なので、気にしないでください。yunko豚の角煮とありがとうNo title豚肉好きなワタシ、角煮も食べたい~~~!\nまた大雨とかのせいで野菜の値段上がってるのね\nうちの方は海外から来るのも多いせいか結構安定してるけど\n冬にテキサスで寒くSnugglebuttアーモンドサーモンNo titleみーモフママさん\n>この間アーモンドサーモンを作ったときに本当に皮がきれいにアルミフォイルについてくれましたよ~。\nそれで後片付けも楽チンだもんね!\nサーモンが崩愛されている妻豚の角煮とありがとうNo titleホントに...お野菜お高い。\nレタス買おうと思ったけど...キャベツにしました。\nそう...🍆は豊作なのか...お安めですよね。\n悪くしちゃうといけないので...食べる分だけ...\n作れそうな時mikaアーモンドサーモンNo title妻さんのコールスローのブログみてから\n私もこの作り方です。\nってコールスロー作りましたぁ~はあまりに\n簡単すぎちゃって...ブログにアップしてませんが(笑)\n秋鮭~美味しmikaアーモンドサーモン我が家もお世話になっております。\nちなみに、天板ごとドーンと食卓に上がりますけど。作るのも洗うのも私なのでね。\n見た目で云々は、一昨日来やがれ。\nコールスローすき千恵アーモンドサーモンNo titleキャベツ冷蔵庫に入ってるから\nこのコールスロー作ってみよう!\nプーに魚アレルギーがないってわかったんだけど\n本人はちょっと怖がってて特にサーモンを避けてる\n生なら平Snugglebuttやっぱりイタロー(イタリアンローストポーク)No titlenoodleさん\n>なだらかな丘が続く光景はイギリスらしいですよね。\n日本からの観光客がいくようなところではないかもしれないけれど...青い空になだらかな丘、草を食む羊。\n愛されている妻アーモンドサーモンNo titleこの間アーモンドサーモンを作ったときに本当に皮がきれいにアルミフォイルについてくれましたよ~。\nでもサーモンは崩れてボロボロになってしまいました。\nアーモンドスラみーモフママやっぱりイタロー(イタリアンローストポーク)No titleこのイタロー、毎日食べても飽きないんじゃないかって思うくらい\nシンプルな美味しさがたまらないのよね\nソースをゴハンにかけて食べるのも好きだったわ~\nそしてキャベツSnugglebuttやっぱりイタロー(イタリアンローストポーク)あはは🤣\n遂にイタロー作ろうかな!?️って\n思った時には聞かないで作って❤️\n状態になりましたか(笑)\n妻さんが思わなかったら...\nずーっと食べられなくなっちゃうから\n週一で曜mikaやっぱりイタロー(イタリアンローストポーク)No titleイタリアンローストポークは美味しい!!\nホントに美味しいもん!\nダンナ様の気持ちわかる〜!!笑\n面倒くさがりになりまくったけど作ろうかな〜\n季節的にもピッタリだしりぷママやっぱりイタロー(イタリアンローストポーク)No titleご紹介、ありがとうございます!\nなだらかな丘が続く光景はイギリスらしいですよね。\nいつも、このローストポークが美味しそうなので\n夫に「違うローストのレシピでトライnoodleほぼオーブンだけNo titlemikaちゃん\n>それに美味しいフォカッチャだったのね!\nフォカッチャそのものはそんな難しいものではなく...その味の差はいい小麦粉使っているのかな?\n私のは普通だと思う愛されている妻ほぼオーブンだけNo titleフォカッチャいいねぇ。\n私、ゆる~く糖質制限で夜は出来るだけ炭水化物食べないからパンも手作りしなくなってしまった。\nあはは、北欧の・・・そうなのね。\nこちらにもオreeディナーサラダと赤毛のアンNo title千恵さん\n>我が家は、5人。好き嫌いが多い人のみ。\nでも、私が食べたいものを作る。\nうん!作る人が食べたいものを作る。\nそれが正解だと思います。\nだって作ってるんだも愛されている妻ほぼオーブンだけNo titleわぁ~久々妻さんのフォカッチャだ\nフォカッチャって大好きだけど自分で作った事ないな(笑)\n調理師専門学校通ってた時フレンチ・イタリアンの実習の時\n助手の先生が時々フmikaディナーサラダと赤毛のアンNo titleうちのダンナも何でもいいよって言うけど\nリクエストしてくれた方がメニュー考えなくていいの楽なのにな\nでも手を抜いても文句を言わないのでラッキーだけど\n赤毛のアンはSnugglebuttディナーサラダと赤毛のアン赤毛のアン、皆さん書かれているけど\nわたしも大好きでした。\nもっぱら、図書館でシリーズを借りてきて\n読んでいて、どごまで読み進めたか覚えていないんですよ。\nピンクみyunkoディナーサラダと赤毛のアンNo titleうちにもいます。\n『ご飯ですよ〜』の一声で歓喜してくれる\nヒルトン(笑)。\n毎食同じメニューなのにね。\n毎日ご飯をちゃんと作る妻さまはえらいな。\n赤毛のアン大好pcommeparisディナーサラダと赤毛のアンNo title夕ご飯にこう言うサラダを食べるの大好きなんだ。\n外食してもサラダ、って事もあるし。\nこのアンという名の少女、私も見たよ。\nNHKでやってたから録画して。\nこの女の子、reeディナーサラダと赤毛のアンNo titleこういうサラダはお酒のおつまみとしても楽しめていいよね〜\nテイスティドレッシングのイタリアン、\n私も好きです。\n深夜 赤毛のアン\n見た見た〜!!笑\n何時間も!!\n私りぷママディナーサラダと赤毛のアンNo title今まだきゅうりがとてもお高いんですよ。\n実家でも今年はもらわなかったらふるわなかったんだとおもいます。\nそれなのにご主人様の菜園は素晴らしい!\n家でとれたら新鮮だみーモフママディナーサラダと赤毛のアンNo titleもぉ妻さんったらぁ~(笑)\n作らなくては...ダメダメ~(笑)\n「作るものはなんでも本当に美味しいから」\nなんでも...本当にがポイントですね\n自分の素直な気持ちを口に出してちゃmikaそして帰宅No titleくろねこさん\nコメントありがとうございます!\n私のブログなんて...と思ったりもしましたが。\n勇気付けられるコメント、本当に嬉しいです!!!\n次の旅行はコロナの心配な愛されている妻", "perplexity": 30.612072033363944}} +{"row_index": 5406, "sha1": "2790f96b8a8aaaafe0c5d155092724446b399dbc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0067", "kept_row_index": 32803, "reason": "exact_duplicate", "record": {"url": "http://kaatsu-b-fit.com/Bartramiaceae1160802.html", "content": "${returnDuration(178)}\n歴史に名を刻んだレジェンドたち アレクサンドル・カレリン 霊長類最強といわれた男オリンピックチャンネル\n${returnDuration(156)}\n“日清食品カップ”小学生陸上競技交流大会 2021都道府県大会ダイジェスト動画日本陸上競技連盟\n${returnDuration(69)}\n“日清食品カップ”第37回全国小学生陸上競技交流大会 応援動画日本陸上競技連盟\n${returnDuration(27)}\n体操は「究極」のスポーツテレビ朝日\n${item.name}\n${item.array[0].text}\n森田前知事、ラジオ収録に森元首相招き対談 五輪・パラ話題に産経新聞\nパ・リーグ新人王は大本命・宮城大弥だが...「伊藤大海の活躍次第で大逆転も」の声が週刊ベースボールONLINE\n“モテ男”小澤征悦の結婚、NHK桑子アナが小澤家に気に入られた理由 関係者が明かすノリの良さとマメな性格デイリー新潮\nブロウバーグ「61」で独走態勢に ツアー2勝目に王手my caddie\nズベレフ「光栄」 4大会連続でレーバー杯出場へ<男子テニス>tennis365.net\n中国の若者には狂信的な国家主義者がそんなに多いのか【江上剛コラム】時事通信\n松山英樹は32位後退 ツアー未勝利の2人が首位、ミケルソンは4差9位my caddie\n東京五輪男子マラソン6位の大迫傑さんが小中学生指導 福島県いわき市でオンラインイベント 相沢晃選手がゲスト出演福島民報\n中国が本気で倒しに来た 卓球女子・馬場美香監督に聞く時事通信\nパラ開会式、制作は「運命」だった 演出のウォーリー木下さんインタビュー47NEWS\n奥原希望、五輪での「答え合わせ」を回顧 変化の5年、敗戦の要因、新方程式の模索平野貴也\nスポーツナビアプリ限定\nコロナ禍での東京パラリンピックが閉幕 ボランティアも感染対策に尽力スポーツナビ\n車いすバスケ“うれし悔しい”銀メダル 土台の上にあった覚醒、3年後は頂点へスポーツナビ\nバド杉野明子、大ケガ乗り越えつかんだ銅 メダルが最高の回復薬 最終日もう1個へスポーツナビ\n起用に応えた古澤の“初スリーポイント” 車いすバスケ、日本一丸で頂点へあと1つスポーツナビ\nベテラン記者が見た東京パラとこれから 閉幕後は縮小覚悟も「面白さ感じて」スポーツナビ\n“MVP”鳥海の裏で支えるベテラン2人 車いすバスケの躍進に、若手への信頼感スポーツナビ\n東京パラをブラサカ界の“フランスW杯”に メダルならずも、代え難い大きな経験スポーツナビ\n車いすバスケ、守りの軸となる鳥海連志 “異次元のスタッツ”だけではない神髄スポーツナビ\n加納慎太郎、初のパラ挑戦はほろ苦く......「何も考えていない」に感じた新たな挑戦スポーツナビ\nラケットを口に、サーブは足で。異彩放つエジプト卓球選手に会場が注目パラフォト\n車いすラグビー初戦、日本は劇的な逆転勝利!その裏で......敗れたフランスの燃え上がる闘志パラフォト\n東京2020パラリンピックはここに注目! 金メダル候補をPICK UPパラサポ\n【東京2020パラリンピック】12日間の競技見どころまとめパラサポ\n7人が連携したGOALを~ブラサカ日本代表選手インタビューパラフォト\n日本トップクラスの進学校で実施される特別授業とは? 子どもの世界を広げる、多種多様な出会いパラサポ\nグランドスラムの夢を叶えた車いすテニス・大谷桃子、東京パラで会場をどよめかせる!パラサポ\n多種多様で見どころ満載! 東京2020パラリンピックの聖火リレーパラサポ\n【東京2020】オリンピック・パラリンピック選手村レポートパラサポ\n木村敬一、「やっと、舞台に立つ準備ができた!」〜本番へ最後、長野パラ・レガシーの地で県大会に出場〜パラフォト\n晴れ\n熱中症指数警戒\n明日9/20 (月)\n晴時々曇", "perplexity": 32.815172433964676}} +{"row_index": 30384, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Steriliser-by-UVC-Light-Products-Purificateurs-dair-359198/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..f776a6bd91ece8c668e104782fc96b5b73bd87a6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0108/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0108", + "rows_in": 45830, + "rows_dropped": 3, + "rows_out": 45827, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:03.831975+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.0, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/common_crawl_3_filtered_0109.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/common_crawl_3_filtered_0109.parquet new file mode 100644 index 0000000000000000000000000000000000000000..25e391b701856f8fdac72cfe58e3bcf03cc974d8 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/common_crawl_3_filtered_0109.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1d9193060b411f4dc30b12dcc99917ba98a3d4b8d6b95bf4ae95a30d50f72629 +size 110615783 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..64093bee3c239eae7ae3e1b91860229de86fceec --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 3678, "sha1": "644cfc490ba89b972cdbb35480ecc8ea691b1233", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0023", "kept_row_index": 41752, "reason": "exact_duplicate", "record": {"url": "http://reflectiveteens.com/Oa/acube/xmU13519rUmcx6v4283U.help", "content": "今回は10月21日放送の ポツンと一軒家 を振り返ってみます。 衛星写真を拡大すると見えてくる 山奥にある一軒家を調査する番組で 埼玉県のポツンと一軒家は、 家までの道路はしっかりしていて、 広く開拓した敷・・・\n今回は10月21日放送の ポツンと一軒家 を振り返ってみます。 衛星写真を拡大すると見えてくる 山奥にある一軒家を調査する番組で 岩手県のポツンと一軒家を聞き込みすると 何でも知っているというヒラツカさんを・・・\n今回は10月21日放送の 今、話題の場所と中継を結ぶ マツコ会議 eスポーツカフェ を振り返ります。 eスポーツとは、パソコン・スマホ・ゲーム機 などの対戦型ゲームで争う新競技で、 ディレクターさんによ・・・\n今回は、チコちゃんに叱られる! 運動会をやりようになったのは? チコドリルなどを振り返って いきたいと思いますので 宜しくお願い致します。 運動会をやるようになったのはなぜ? そ・・・\n今回は、チコちゃんに叱られる! 何で女性は電話に出ると 声が高くなる? 亀の長生きなどを振り返って いきたいと思いますので 宜しくお願い致します。 女性が電話に出ると声が 高くなるのは、ちっち・・・\n今回は10月17日放送の 雨上がりの「Aさんの話」 ~事情通に聞きました!~ カラクリだらけのランキング を振り返ってみます。 誰がどんな調べ方をしたのか わからないのにランキング形式で 発表されるとつい気・・・\n今回は10月17日放送の ホンマでっか!?TV 実はこうなりつつある! 変化するニッポンランキング を振り返ってみます。 時代の変化とともに 変わりつつあるニッポン。 実は今、こうなりつつある・・・\n今回は10月17日放送の 雨上がりの「Aさんの話」 ~事情通に聞きました!~ カラクリだらけのランキング を振り返ってみます。 世界でもっとも住みやすい 都市ランキング2018 ・・・\n今回は10月15日放送の、 長嶋一茂と怒れる女たち を振り返っていきたいと 思いますので宜しくお願い致します。 世の女性たちが 怒っている事を調査し、 女性・男性ともに無駄なトラブルを 避けられるようにする・・・\n今回は10月14日放送の ポツンと一軒家 を振り返ってみます。 静岡県にあるポツンと一軒家を 捜していると、ジョギング中だった 地元の事情通 コウゾウさんと出会う。 ポツンと一軒家について、知・・・", "perplexity": 11.404461583489942}} +{"row_index": 8774, "sha1": "403ae929979e785b510495622c47a447849adbef", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0065", "kept_row_index": 21609, "reason": "exact_duplicate", "record": {"url": "http://bizima.jp/mistonusk4040625.html", "content": "### ものづくり工作室 再開のお知らせ\n平素より、はんだ付けができるワーキングスペース「ものづくり工作室」\n1.ご利用者様のマスクの着用\n2.ご入場時の手指のアルコール消毒\n3.体調のすぐれない方のご利用の制限\n(発熱等の方はお断りする場合がございます。)\nご不便をおかけしますが、よろしくお願いいたします。\nをご利用いただきありがとうございます。\n新型コロナウイルスの感染拡大防止に備え、長らく休業としておりました\nものづくり工作室を10/1(金)より再開いたします!\n営業時間は、以前と変わらず 11:00~18:30になります。\n受付はデジットカウンタースタッフまでお声掛けください。\nまた、ものづくり工作室の再開に際しては\n感染症対策として下記の制限を設けさせていただきます。\n### スマホの音声を受けれるBluetoothレシーバー基板が入荷しました!\nスマホの音声を受けれるBluetoothレシーバー基板が入荷しました。\nCSR8630が採用されており、対応Bluetoothプロファイルは「A2DP」になります。\n対応コーデックは、AAC、MP3となっております。\n基板サイズは、30x30mmで組み込みに便利です。\n電源はDC3.5V~5.5Vになります。\n自作Bluetoothスピーカーを作ってみるのはいかがでしょうか。\n### 人気の「DC-ARROW」に新しい基板が登場!\nラズパイオーディオの電源として人気の「DC-ARROW」に新しい基板が登場しました。\n今回の基板は「DC-ARROW」の回路が2回路分搭載されています。\n更にタカチのケース「HEN110520B」に適合するパネル基板が付いてきます。\nUSB端子の角穴をあける必要もなくなりデザイン的にもかっこよく仕上がります。\nラズパイとオーディオHATを別々に供給でき、音質向上も期待できます。\n### たかじんさん最新基板「 North Fox Digi 」が入荷しました!\nたかじんさんの高性能ラズパイD/Dコンバーター基板「 North Fox Digi 」が入荷しました!\nデジタル出力が HDMI-I2S / COAXIAL / TOS-LINKの3系統搭載しています。\nマスタークロックは、通常の2倍でICの最大クロックになる44.1kHz系(45.1584MHz)と48kHz系(49.1520MHz)の低位相ノイズ水晶発振器を搭載しています。DACが対応していれば、より多くのオーバーサンプリングができ音質に有利な仕様となっています。最大192kHz/24bit ハイレゾ出力に対応しています。\n個人的にはデジタル出力で最も音質的に有利と言われているHDMI-I2S出力が気になるところです。\nこのページの上へ▲", "perplexity": 17.499505067802662}} +{"row_index": 35602, "sha1": "3892df29f690114c0543b4dd73a4387a4bc47212", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0030", "kept_row_index": 29190, "reason": "exact_duplicate", "record": {"url": "https://guitar-lesson-online.net/keraunographic603732.html", "content": "## バクテリアの新素材\nMITの研究所でハイブリッド素材、039を使用しました。 バクテリア少し039; 金属。 医学だけでなく、バイオ燃料の生産にも使用できます。\n### 24時間の人気\n## キラウエアとハワイの他の火山:500万年の歴史\nハワイの火山は、何百万年もの間、深部からマグマを地表にもたらしてきた地球上のホットスポットで生まれました。 惑星の。\n## ハンスクリスチャングラムとは\n微生物学者のハンス・クリスチャン・グラムは現在166歳です。 そして、私たちは皆、彼と彼の長老について話します。 実際にà デンマークの科学者&墓; 1938年に亡くなりましたが、 まだ使用中の細菌、グラム陽性およびグラム陰性細菌の識別技術でまだ知られています。 ではなく、刻みます。 小さなこと。\n## ヘルペスとアルツハイマー:絆の仮説が強化されます\nこのテーマに関する研究の新しい改訂版は、piとugraveの間に相関関係がある可能性を示唆しています。 認知症およびウイルス感染の一般的な形態。 もしそれが本当なら、治療、そして何よりも病気の予防に新しい道が開かれるでしょう。\n## モルタ・マルゲリータ・ハック\nトスカーナの科学者は、イタリアで天文台を運営した最初の女性でした\n## 月のすべての人\n月の土を歩いた12人のうち4人が私たちを去った。 他の中で最年少は77歳です。•ニール・アームストロングは地面に触れた最初の男です...", "perplexity": 17.053778859186693}} +{"row_index": 36120, "sha1": "8af0234a74cbf734357129ecebc36aaa58921cf7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0045", "kept_row_index": 17030, "reason": "exact_duplicate", "record": {"url": "http://akyrise.sakura.ne.jp/facetiae476197.html", "content": "### 蓼科へ\nコロナが収まってきましたので、先月末、久々に蓼科に行ってきました。ここは子供達が小さい頃に何度も来ていますが、個人的にお気に入りの場所です。初日はまずロープウェイで北アルプスに登ります。ロープウェイ乗り場がここです。\n駐車場はガラガラです。周りは少し黄葉がイマイチの状態でしたが、楽しめます(写真は色味を出す為、チョット画像処理しすぎですが・・・)。\nロープウェイの楽しみは上下線のすれ違いです。対向車の赤色も中々感じが良いですね。\n周りを見ると、蓼科山も綺麗に映えていました。\n山頂には標高を示すキツツキさんがいます。ここの標高は2、200m以上です。ロープウェイの乗り場は1,700mですが、急に2,000mまで来ると、人によっては呼吸が苦しくなる方もいるようで、家人も周辺を歩くと少し苦しいと言ってました。\n前の日に雪が降ったとの事で、山頂の坪庭からみると、こんな風に山頂駅周辺には一面に雪があります。\n山頂駅に展望台がありますが、この日は空に雲がかかり、あまり周囲を見ることができませんでした。写真は望遠で撮影した蓼科湖です。\nロープウェイを降りて実際にここに行きしたが、山頂では見えなかった紅葉がとても映えている場所がありました。\nこんな風景を見れる秋は堪らず良いですね・・。この日は運転で疲れましたので、そのままホテルへ直行です(続く)。", "perplexity": 17.13722620559751}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..2d26a501f324bf804d1e6baac3d9d0f3c9b1cbdb --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0109/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0109", + "rows_in": 45914, + "rows_dropped": 4, + "rows_out": 45910, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:04.882865+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.7, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/common_crawl_3_filtered_0110.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/common_crawl_3_filtered_0110.parquet new file mode 100644 index 0000000000000000000000000000000000000000..7b5cb64aa0e8f5efa8ba373457840442453ade94 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/common_crawl_3_filtered_0110.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:61384966b8ed1bb3d36011449fee5b11ad7ac347df57693b38d6ff9bc1a08429 +size 110310415 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..2d42858e06186e5f632de0be864ea3d2c970a980 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 8707, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://shokubutsu-zukan.net/moonfish199079.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} +{"row_index": 27168, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "https://barrasana.com/jejunostomy538777.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 28067, "sha1": "fdbafa6ff034c47473a86931ae66a07093c78635", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0054", "kept_row_index": 38002, "reason": "exact_duplicate", "record": {"url": "http://capecoralcycling.com/cutaneal850207.html", "content": "プロの翻訳者集団だから実現できる\n安定した高い品質\nKSM News & Researchは、高い専門性を持ち各分野に精通した翻訳者・通訳者による\n高品質のサービスを提供します。フランスおよび欧州に関連した\nビジネス活動を行う企業の皆様を支援いたします。\n言語の壁を超えてビジネスをサポート\nKSM News and Researchは、欧州でビジネスをする上で不可欠な情報をまとめたニュースレターの配信を中心に、翻訳、通訳、調査など、お客様のビジネスに役立つサービスを提供しています。\nニュースレター/検索サービス\nフランスおよび欧州でのビジネスに欠かせない政治・経済・産業・社会関連の最新ニュースをコンパクトにまとめ、メールにてお客様のお手元にお届けします。ニュースレターを利用することで、情報収集にかかる時間や労力を抑えることができます。また、環境・エネルギーやアフリカ・マグレブに特化した専門ニュースレターもあります。ご関心のある記事をサイト上で検索・閲覧することも可能です。\nニュースレターをご購読中のお客様は、ログインしてサイト内の記事を検索・閲覧することが可能です。\nフランス語翻訳・英語翻訳\nヨーロッパの政治・経済・産業など各部門の専任担当者が、専門的なバックグラウンド・最新の用語知識をもって高品質な翻訳をご提供します。 日々のニュースレター執筆を通して常に翻訳の品質向上に努めています。\nフランス語通訳・英語通訳\n会議、各種シンポジウムやセミナー、ビジネス交渉、産業視察における通訳を行います。オンライン会議やウェブ上でのセミナーや研修にも対応可能ですのでお問い合わせください。\n調査・クリッピング\n制度調査、市場調査、経済・政治動向調査、技術調査、アンケート調査など、お客様のご関心・ご要望に沿って、様々な角度・アプローチからの情報提供および報告書の作成を行います。\nニュースセレクション From our Newsletters\nフランスおよび欧州の政治、経済、企業、ビジネス、社会、文化に関する必須情報をコンパクトにまとめたニュースレターから、毎日の厳選ニュースをご紹介。\nフランスと欧州をもっとよく知りたい皆様のために、日頃の情報収集・調査で培ったノウハウの生きた読み物のページもご用意しております。\nKSM News and Researchの強み\nKSM News and Researchは、フランスのパリに拠点をおく\n歴史と実績のある翻訳・通訳会社です。\nフランスおよび欧州でビジネスをする上で必須の最新情報を\nニュースレターとしてコンパクトに編集し配信することで日々蓄積された\n専門的で時事的な知識・人材・情報のデータベースが私たちの強みです。\n## 無料お見積り・お問い合わせはこちら\n新規のお問い合わせ、サービスについてのご質問など、お客様からのご相談を受け付けております。\nまた、翻訳・通訳のお見積りを無料にて承っていますので、初めての方もお気軽にお問い合わせください。", "perplexity": 10.608361982022261}} +{"row_index": 28068, "sha1": "541cc401dbca71b6b473dbc282a3110aaf394906", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0021", "kept_row_index": 21961, "reason": "exact_duplicate", "record": {"url": "http://itousorobansougougakuen.com/isodiazo349790.html", "content": "最高級モデルのスコート、贅沢に生地を重ねた上品な仕上がり\nPleateTeeと組み合わせ♪\n数あるスコートの中から厳選された人気No1のスコート\nブルーが美しいTieBackTankとの組み合わせ\nチータ柄もブルーでPOPで爽やかな印象に!\n半袖の人気ランキング\n総合ランキング1位の半袖\n上下Coralで合わせてみました♪♪\n大人気のCrossoverTeeのNEW新色Coralです。\n総合ランキング2位の半袖\nTashiSkorの柄と合わせてみました♪♪\n大人気のCrossoverTeeのNEW新色Turquoiseです。\nショートパンツの人気ランキング\n総合ランキング1位のショートパンツ\n白のIntensity Teeと合わせてみました♪♪\n人気のショートパンツに新作登場♪♪NEW新色Navyです。\n総合ランキング2位のショートパンツ\nSkyBlueのFluiedTeeと合わせてみました♪♪\n人気のショートパンツに新作登場♪♪NEW新色Whiteです。\nDrillSkortと組み合わせ♪\n溢れだす闘志♪試合に挑む!\n## 最新情報\n- 8月11日~8月18日は夏季休業のため期間中にご注文頂いたウェアは19日以降順次発送させて頂きます。\n- 夏を楽しもう♪バイザープレゼントキャンペーンは7月31日まで♪\n- GYOSHOW試着会スケジュール更新致しました。\n- 7月21日~8月31日までの期間GYOSHOWのメンテナンスのため、期間中の試着販売会はございません。", "perplexity": 26.707833176973896}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..147cbe876d3e9686fdf10b65c4440e638770cf52 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0110/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0110", + "rows_in": 46139, + "rows_dropped": 4, + "rows_out": 46135, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:06.015680+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/common_crawl_3_filtered_0112.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/common_crawl_3_filtered_0112.parquet new file mode 100644 index 0000000000000000000000000000000000000000..d975f09391b6edfa2fd882da5bc7f1bb31a18117 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/common_crawl_3_filtered_0112.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fcff4f330420a14ae0c68ad2e0d6289cd60c239577716f90d0f221413c73c1a6 +size 109997927 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..9549f62080ebd8f2bd263c4de445b98fc49de1cf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 21039, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://koz-park.com/guaiaconic167627.html", "content": "おいしくておもしろい食文化! “発酵”の魅力を伝える発酵ポータルサイト\n東京から世界へ。世界から東京へ。ファッションの楽しさを毎日お届け!\n文化はつながる。New Culture Context\n創意ある暮らしのための知恵をお届けします。\nクウネル読者のWEBサイト『クウネル・サロン』が始まりました!\n猫の家政婦・猫村ねこの大人気漫画! 最初の1コマから読めます。\n『edit Oita』大分を楽しむWebマガジン\n自然とつながる、私らしい時間が生まれる 庭づくりのためのエクシオールマガジン\nスタイルのある家と暮らし\nよりよい肌、よりよい毎日、そして、笑顔。\nanan女子に響くユニークなオリジナルコンテンツが満載!本誌記事も配信中。\n毎日をアクティブにする情報満載!\n子育てをもっと楽しく!働くママ&パパのためのお役立ち記事を毎日配信中☆\n福祉をたずねるクリエイティブマガジン\n東京の最旬情報のほか、誌面掲載店の検索やオリジナル記事などを毎日更新。\n心地よい暮らしのストーリー\n毎日配信中! ニッポンのローカルは楽しい! カッコいい! 進化してる!\nベターライフの素、毎日配信!\n美しい暮らしをデザインする Life Design Magazine", "perplexity": 22.04089571255041}} +{"row_index": 27644, "sha1": "20c74ac4876aa80ae4c3c6c00825e6c56a456299", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0043", "kept_row_index": 37929, "reason": "exact_duplicate", "record": {"url": "http://ysroad-ueno.com/Mididae1011729.html", "content": "## もっと神戸電子を\n知りたい方へ\n神戸電子をもっと知っていただくための資料の配布やオープンキャンパスを開催しています。\n## 神戸電子からの\nニュース&トピックス\n学校からのお知らせやオープンキャンパスなどのイベント情報をお知らせします。\n2021.10.1現在 本校の教育運営等活動指針\nレベル2(活動指針の詳細PDF)\n日本で最も歴史あるIT系専門学校で、\n数多くの卒業生が活躍しています。\n## 神戸電子で学べる19学科について未来へ生き抜く力\n「技術力」と「創造力」。\n技術力と創造力を大切にした教育で、\n未来を生き抜く人に。\n-\n## 「アイディア」を\nカタチにできる「技術力」を\n技術力を育む専門教育とさまざま人たちと協働し新たな価値を生み出す共創教育を通じて、\n「技術力」と「創造力」を兼ね備えた専門職業人を育成します。\n## 新しい価値への創造力と\n伝えるコミュニケーション\n現場経験豊富な教員が専門知識と技術を伝授。\n「聞く・見る・話す」の感性を養うコミュニケーション能力を身につけ、新しい価値を見出す創造力が、あなたの未来を切り拓く!\n## プロと同等の即戦力の環境で\n磨かれる技術力と創造力\nスタジオや設備等、在学中からプロと同等の「仕事」ができる環境を用意。\n多くの有名企業がセミナーを開催し、プロとしての意識作りや技術を伝え、即戦力として活躍!\n## 卒業生の結束力\n繋がりと活躍の現在\n繋がりを大切にする神戸電子は卒業後も同窓会やコミュニティーで友の輪を広げている。\nそして社会人としての繋がりを作り、会社では即戦力として大活躍!\n### 就職・資格に強い神戸電子\n卒業後を見据えた基礎・専門・実務経験の\n3段階教育により約90%以上の正規雇用を実現。\n就職・資格について\n### 最強の業界連携\n業界との繋がりが強い神戸電子だから\n### 募集要項・学費・選考方法\n長年多くの優秀な学生を世の中へ送り出しています。\n募集要項や選考方法など入学に関する案内はこちら\n入学案内について\n留学生 向け 学校案内 留学生 向けの 神戸 電子 専 門 学校の 学校 案内です。", "perplexity": 25.00032545280468}} +{"row_index": 28704, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/russian-dating-site-india/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} +{"row_index": 30785, "sha1": "a6a0ecd61ac8934c532a6c767dd82266d2b51b50", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0088", "kept_row_index": 9447, "reason": "exact_duplicate", "record": {"url": "http://www.threeangelsgifts.com/cryptoperthite1423748.html", "content": "#### 刊行物のご案内\n#### 刊行物\n新型コロナウイルス感染症(COVID-19)による緊急事態宣言を受けて,8月認定委員会を8月28日(土)とさせていただいておりましたが,新型コロナウイルス感染症(COVID-19)急拡大により,委員会開催を\n「中止」とすることになりました。\n次回10月認定委員会(10月2日)の審査予定となります。\nご迷惑をおかけしますが,ご理解を賜りますようお願い申し上げます。\n参加・賛同学協会数は,339学協会となりました。\n本学会のメールサーバーの不具合により,以下の時間帯に学会宛に送られたメールを受信することができませんでした(宛先は,ドメインが@psych.or.jp のメールアドレス)。\n<メールを受信できなかった期間>2021年8月4日(水)11時頃-14時頃\nつきましては大変お手数をおかけしますが,この時間帯にメールを送信された方は,再送くださいますようお願い申し上げます。\n第41回日本看護科学学会学術集会において,日本看護科学学会・日本心理学会の共同企画シンポジウムを開催します。本シンポジウムのシンポジストを,学会員の方の中から公募します。\n詳細は,公募要項をご覧ください。\n新型コロナウイルス感染症(COVID-19)による緊急事態宣言を受けて,2021年8月7日(土)に予定しておりました認定委員会を\n8月28日(土)に延期することになりました。\n2021年7月2日にライブ配信で開催した日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ第1回 吉田寿夫・村井潤一郎(2021)「心理学的研究における重回帰分析の適用に関わる諸問題」心理学研究92巻のアーカイブ動画を公開しました。\n公開期間は,2021年9月8日までです。\n##### 日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ\n第1回 吉田寿夫・村井潤一郎(2021)「心理学的研究における重回帰分析の適用に関わる諸問題」心理学研究92巻(2021年7月2日)\nこのたび,新しいオンラインイベントのシリーズを開催することになりました。参加費無料・一般公開で,どなたでもご参加いただくことができます。\n詳細や参加申込は,本イベントのPeatixウェブサイトをご覧ください。\n##### 【アーカイブ公開・9月8日まで】日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ(第1回・2021年7月2日ライブ配信)\n発表申込締切は,5月28日(金)17時です。\n##### 公開シンポジウム「誰一人取り残さない」社会の実現のために:心理学者が考える「持続可能な開発目標(SDGs)」第1回「環境問題について考える」(オンデマンド)\n2021年度の日本心理学会公開シンポジウムは,オンライン(オンデマンドまたはライブ配信)にて実施いたします。 第1弾は,『「誰一人取り残さない」社会の実現のために:心理学者が考える「持続可能な開発目標(SDGs)」』(第1回「環境問題について考える」)です。\n動画はYouTubeで公開し,日本心理学会ホームページからもご覧いただけます。公開期間は,10月14日までです。\n##### 日本心理学会第85回大会の日程が決まりました(2021年9月1日(水)―8日(水),ウェブ開催,主催校:明星大学)\n大会参加・発表申込の受け付けは,4月中旬の開始を予定しております。詳細は,大会ホームページの公開後にあらためてご案内します。\n##### 日本心理学会・日本看護科学学会共同企画シンポジウム登壇者募集(応募締切2021年8月17日)\n##### 日本心理学会第85回大会発表申込締切の延長(6/4(金)17時)\n日本心理学会第85回大会の発表申込締切を,1週間延長しました。\n延長後の締切は,6月4日(金)17時です。再延長は行いません。発表ご予定の方は,必ず期限内にお申し込みください。\n##### 日本心理学会若手の会|大会参加費支援制度のご案内(締切6月12日)\n日本心理学会第85回大会で発表を予定している方を対象に,大会参加費を支援します。応募締切は,6月12日(土)23時59分です。資格や応募方法は,若手の会ホームページをご覧ください。\n##### 若手の会企画シンポジウム事前アンケート(回答締切5/20)\n日本心理学会若手の会による企画シンポ「これからの若手研究者の諸問題と対処法の共有・展望 (仮)」(第85回大会時)について,事前アンケートにぜひご協力ください。\nアンケート対象は,大学院生もしくはその修了時点から10年以内の方で,回答締切は5/20です。\n##### 研究会助成・災害復興助成・新型コロナウイルス関連助成の募集\n2021年度の研究会助成,災害復興助成,新型コロナウイルス関連助成の募集を公示しました。\n各申込締切は,研究会助成=5月7日(金)正午,災害復興助成・新型コロナウイルス関連助成=5月31日(月)正午(いずれも必着)です。\n※2021年度は国際会議旅費補助の募集を中止いたします。\n##### 第16回日本心理学会国際賞募集について\n第16回日本心理学会国際賞(特別賞・功労賞・奨励賞)の会員推薦と自薦による応募(奨励賞のみ)を受け付けております。締切は2021年1月12日(火)午前9時30分 (必着)です。詳細はこちらをご覧ください。\n##### 人文社会科学系学協会男女共同参画連絡会(GEAHSS) WGメンバーの募集\n人文社会科学系学協会男女共同参画連絡会(GEAHSS)は,調査WGならびにグッド・プラクティス・スキーム作成WGのメンバーを募集しております(締切2020年末)\n### 日本心理学会からの最新NEWS\n表示されない場合には、上記「日本心理学会 @jpa_psych」をクリックいただくか、", "perplexity": 14.025919746212585}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..52991862ad8a6b598c9ec5718d1567015cafc900 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0112/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0112", + "rows_in": 45951, + "rows_dropped": 4, + "rows_out": 45947, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:06.500206+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/common_crawl_3_filtered_0113.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/common_crawl_3_filtered_0113.parquet new file mode 100644 index 0000000000000000000000000000000000000000..8f852dcf5762cdef9627bf8626e15be4185064ad --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/common_crawl_3_filtered_0113.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ac6891dd3fdd4eba91593bd0aaf3e4299d20877b96d85aae45f05c66493bffa0 +size 110095117 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..f6b669799fb2c19c2acc564f83355ef15836d012 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 24380, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://funsou.jp/alkaptonuric1426277.html", "content": "おいしくておもしろい食文化! “発酵”の魅力を伝える発酵ポータルサイト\n東京から世界へ。世界から東京へ。ファッションの楽しさを毎日お届け!\n文化はつながる。New Culture Context\n創意ある暮らしのための知恵をお届けします。\nクウネル読者のWEBサイト『クウネル・サロン』が始まりました!\n猫の家政婦・猫村ねこの大人気漫画! 最初の1コマから読めます。\n『edit Oita』大分を楽しむWebマガジン\n自然とつながる、私らしい時間が生まれる 庭づくりのためのエクシオールマガジン\nスタイルのある家と暮らし\nよりよい肌、よりよい毎日、そして、笑顔。\nanan女子に響くユニークなオリジナルコンテンツが満載!本誌記事も配信中。\n毎日をアクティブにする情報満載!\n子育てをもっと楽しく!働くママ&パパのためのお役立ち記事を毎日配信中☆\n福祉をたずねるクリエイティブマガジン\n東京の最旬情報のほか、誌面掲載店の検索やオリジナル記事などを毎日更新。\n心地よい暮らしのストーリー\n毎日配信中! ニッポンのローカルは楽しい! カッコいい! 進化してる!\nベターライフの素、毎日配信!\n美しい暮らしをデザインする Life Design Magazine", "perplexity": 22.04089571255041}} +{"row_index": 25642, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "https://soto-zen.net/index-2.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.335650491062793}} +{"row_index": 34523, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "http://softmintindia.com/cholane607768.html", "content": "「彼女は確信犯だ」のような、悪いことなどを分かっていてやる「確信犯」は英語で \"She know what she's doing.\" と表せます。「何をやっているかちゃんと分かってやっている」という意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っていた靴下のラベルに面白いことが書かれていました。 そこには英語で「フリーサイズ」的なことが書かれていたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほとんどの人にピッタリです」という意味で \"one-size-fits-○○\" と書いてあ [...]\n## 日常生活の英語\n## 話す英語\nレストランでまだ食べかけのお皿を下げられそうになった時の「まだ食べています」「食べ終わってません」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい表現\n「眉毛」は英語で \"eyebrow(s)\" と言います。読み方は「アイブロウ」でも「アイブロー」でもなく「アイブラウ」に近い発音です。濃い(太い)眉は [...]\n## 書く表現\nおもちゃ屋さんの『トイザらス』、その名前を知らない人はいないと思います。 アメリカの「トイザらス」は今年、国内の最後の2店舗が閉鎖されたようですが、日本やその他の国ではまだ店舗がたくさんあります。 そんな『トイザらス』ですが、ひらがなとカタカナが混ざった不思議な名前だと思いませんか? [...]", "perplexity": 17.522652893009255}} +{"row_index": 43752, "sha1": "5289330c2b51da2cbff8654917b9997ffea4aa80", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0061", "kept_row_index": 4055, "reason": "exact_duplicate", "record": {"url": "https://fiit.jp/Pendants/bxmtz-110867/Wedding-Necklace-Lavender-Jade-Necklace-Bridal-Jewelry-Jade.action", "content": "OUR VISION \nフィットネスITソリューションのリーディングカンパニー\nわたしたちは、フィットネスITソリューションのリーディングカンパニーとなるべく、 ご利用ユーザー様、クライアント様から愛されるサービスを創り続けます。新規事業はもちろん、既存事業のアップデートも徹底的に行い、 みなさまのフィットネスライフの「未来」に改善提案を行い続けます。\n今ここにない「未来」はFiiTが創る\n我々はフィットネス業界にイノベーションを起こし、 価値とエネルギーに満ち溢れたITサービスを創るプロフェッショナル集団です。 ※イノベーションとは「未来への改善を地道に繰り返すこと」と弊社では定義しています。\n下記ポリシーは必ず順守し、今はない新たな価値あるサービスをご提供していきます。・フィットネスとITの融合サービスのみ創る\n・常に1位を取り続けるサービスを創る\n・価値があるサービスのみ創る\n・エネルギーがある者のみがサービスを創る\n・今ここにない未来のサービスを創る\n・スケールするサービスのみ創る\n・仲間に自慢できるサービスを創る\n・実行力のある組織でサービスを創る\n・感動を生むサービスを創る\nFiiTのこだわり\n「価値にこだわる」\n何か変化をする際、「これは本当にユーザー様にとって価値があるか?」 を常に問い続け、意思決定を行います。\n「1位にこだわる」\nフィットネスIT業界のリーディングカンパニーとして、 狙った業界のトップカンパニーとなるまでアップデートを繰り返し、 ご提供サービスの価値が常に「1位」となるよう、胡坐をかかずにこだわり続けます。\n「エネルギーにこだわる」\n本当に価値あるサービスを創れる者は何かしらの”エネルギー”を持ち合わせている方が多い。 我々は”エネルギー”のある方のみ採用としており、 フィットネス業界に大きなインパクトを与える”事業家集団”であることにこだわります。", "perplexity": 14.37434379922959}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..bc2bf4a4a5beaad50d8febe31d664959d29eef06 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0113/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0113", + "rows_in": 45864, + "rows_dropped": 4, + "rows_out": 45860, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:06.812640+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.6, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/common_crawl_3_filtered_0114.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/common_crawl_3_filtered_0114.parquet new file mode 100644 index 0000000000000000000000000000000000000000..572ae50775f90b0b89987d848e8929a9437032b1 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/common_crawl_3_filtered_0114.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:dea44998eaab4ce7be4657bd3785bc61f5c4f1cebbbe4df90e3acfdde4fa383a +size 111730386 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..2281052559cf1f9eac8298c1809b8f9d32edceba --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 8263, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "https://getoboys.com/katuka1589177.html", "content": "おいしくておもしろい食文化! “発酵”の魅力を伝える発酵ポータルサイト\n東京から世界へ。世界から東京へ。ファッションの楽しさを毎日お届け!\n文化はつながる。New Culture Context\n創意ある暮らしのための知恵をお届けします。\nクウネル読者のWEBサイト『クウネル・サロン』が始まりました!\n猫の家政婦・猫村ねこの大人気漫画! 最初の1コマから読めます。\n『edit Oita』大分を楽しむWebマガジン\n自然とつながる、私らしい時間が生まれる 庭づくりのためのエクシオールマガジン\nスタイルのある家と暮らし\nよりよい肌、よりよい毎日、そして、笑顔。\nanan女子に響くユニークなオリジナルコンテンツが満載!本誌記事も配信中。\n毎日をアクティブにする情報満載!\n子育てをもっと楽しく!働くママ&パパのためのお役立ち記事を毎日配信中☆\n福祉をたずねるクリエイティブマガジン\n東京の最旬情報のほか、誌面掲載店の検索やオリジナル記事などを毎日更新。\n心地よい暮らしのストーリー\n毎日配信中! ニッポンのローカルは楽しい! カッコいい! 進化してる!\nベターライフの素、毎日配信!\n美しい暮らしをデザインする Life Design Magazine", "perplexity": 22.04089571255041}} +{"row_index": 10453, "sha1": "59c6ef863adbb77614b8009d21bba8bc65566157", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 9429, "reason": "exact_duplicate", "record": {"url": "https://ponce.magicwebstudios.com/miterflower180466.html", "content": "## 店長曰く、”ドライバーのインパクトは第一象限で!”\n店長が、突然、\nなんだっけと思い調べてみると、数学でx、y共にプラスになる座標上、右上のエリアのこと。。。?\nよく聞いてみると、そうでした。\nでなんで、第一象限かというと、こうだそうです。\n先ずは、下のグラフ見てください。\nx軸が、ヘッド軌道でいわゆるインサイド、アウトサイドかを示します。\ny軸は、入射角でアッパーブローかダウンブローをあらわします。\nで、店長が言いたいのは、ドライバーのインパクトは、\n最初からスライスで攻める方とかには、完全に当てはまらないかも知れませんが、私たちがこれまで多くのお客様をフィッティングした結果、また、私たち自身が打って確認した結果から、以下のグラフになりました。\nグラフは、1目盛1度のアングルなので、\nここでインパクトできれば、\n勿論、ヘッドスピードが速い方や身長が高いかたなどは原点(0,0)に近づいたインパクトでも効率的に飛ばせますし、ヘッドスピードがあまりない方、身長の低い方は逆のことが言えたりします。\nで、肝心の店長は、どうなってるの?\n赤色の点が、店長のインパクトです。\nおーい!あかんやん。外れてるし(惜しいけど)\n本人曰く、インパクトで体重が右に残りやすいのが原因とか。\nスイング改造中やらしゃーないって開き直っています。。。笑\n皆さん、当店では上の写真の様に、皆様のインパクトを正確に測定することが出来ますし、それに見合ったシャフトをご提案することも出来ます。\n是非、診断を受けてみませんか?\nお問い合わせは、スタッフまでお気軽に。。。\n”ドライバーのインパクト”は、 第一象限やねって、わけのわからないことを言い出しました。 第一象限?\nインサイド・アッパーが効率よく飛ばせるってことを言っています。\n”good”エリアは、 インサイド1~3度、アッパーも1~3度を示します。\n効率よく飛ばせると私たちは考えます。", "perplexity": 21.68119784043468}} +{"row_index": 18006, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=190890", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..fcba3e9ccb73a0cd5eb36b8ede10247fe4365337 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0114/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0114", + "rows_in": 46046, + "rows_dropped": 3, + "rows_out": 46043, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:06.875514+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.2, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/common_crawl_3_filtered_0115.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/common_crawl_3_filtered_0115.parquet new file mode 100644 index 0000000000000000000000000000000000000000..f791e2f6df93f1f5c37969bf8643a5bfc741108c --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/common_crawl_3_filtered_0115.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:61572c9ebbf22d7bb08c6ba84de08dd48d95329a77be500837dd5e42eefedbfa +size 109377207 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..367710a8af1b0c387056a69d511d032c806be216 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 18185, "sha1": "135ed1f7e3caded20d1943d81db35f59f8946598", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0037", "kept_row_index": 21873, "reason": "exact_duplicate", "record": {"url": "http://www.marlaecohen.com/Auk584226.html", "content": "## キャンパス日誌\n### はつみ先生の記念礼拝が執り行われました\n### 後期も対面授業が再開されました\n### 先生に敬和学園大学名誉教授の称号が贈られました\n### 過去と未来をつなぐべく、現在を生きること。\n### 10月の空の下で\n### リベラルアーツ -自由な精神を育む教育\n### 2021年度の後期が始まりました\n### 収穫の秋となりました\n## 自由な学びが、\nあなたの未来を支える\n人生の生き方を学び、人格を形づくる、これからの大切な4年間。\n敬和学園大学での学びが、あなたの未来を支えます。\n## 動画で敬和を知ろう!\n敬和学園大学紹介ビデオ2021\n【キャンパスツアー】敬和学園大学のキャンパスを紹介します\n【キャンパスツアー】敬和学園大学の学生寮を紹介します\n【体験授業】フィリップ・ウィン先生(人文学部、英語教育(KEEP))\n【インタビュー】一戸信哉先生に「情報メディア」について聞いてみました\n【サークル紹介】ボードゲーム・サークル\n【アクティブラーニング】サンタプロジェクト\n【学生制作映像作品】しばたオイスターバー 2021「米蔵ココロ」3分バージョン", "perplexity": 33.60160173725642}} +{"row_index": 25739, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://newmilmed.com/scrivello1606229.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..f7085d9b4c26ea32d08d0219b3bcc64769d06e6d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0115/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0115", + "rows_in": 45871, + "rows_dropped": 2, + "rows_out": 45869, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:06.913316+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.2, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/common_crawl_3_filtered_0116.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/common_crawl_3_filtered_0116.parquet new file mode 100644 index 0000000000000000000000000000000000000000..618ba317ede26afab4a3fec748ae060dbdf714ae --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/common_crawl_3_filtered_0116.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:545a4a90412a7e0142e9af7e3d77b63ed38063a7ba426ef6331a2e3c4fb431a4 +size 109179295 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..4a6dc4afa8ba05c2f07aae951ef40127dbb0a35a --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_removed.jsonl @@ -0,0 +1,5 @@ +{"row_index": 11329, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "https://www.auroraelectricals.com/hydroferrocyanate243665.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} +{"row_index": 14853, "sha1": "e20c2dc4a6cecbdfeb031622e11f6ccbd8ab4f97", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0119", "kept_row_index": 37712, "reason": "exact_duplicate", "record": {"url": "http://isemaru.jp/counterslope352016.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年11月28日(日)|大人の科学教室2「電子工作への誘い」~小鳥のさえずり発生器の製作~\n令和3年11月27日(土)|科学工作教室2「LEDを使った光のインテリア工作」\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\nお知らせ\n令和3年10月30日(土),31日(日)|アースサイエンスウィーク・ジャパンを開催します\n令和3年11月14日(日)|ロボット教室 ~工作とプログラミング 初級~\n令和3年11月6日(土)|楽しい化学実験室3「水の中で燃える炎」\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 25.966752132360554}} +{"row_index": 19174, "sha1": "f4e3a28320e98e52b8241e39bc911708931c0aad", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 5557, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/speed-dating-spanish-class/", "content": "designfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.58394496894753}} +{"row_index": 26108, "sha1": "644cfc490ba89b972cdbb35480ecc8ea691b1233", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0023", "kept_row_index": 41752, "reason": "exact_duplicate", "record": {"url": "http://reflectiveteens.com/Oa/tokyu-hands/iA17421gmh1a4xa4283m/", "content": "今回は10月21日放送の ポツンと一軒家 を振り返ってみます。 衛星写真を拡大すると見えてくる 山奥にある一軒家を調査する番組で 埼玉県のポツンと一軒家は、 家までの道路はしっかりしていて、 広く開拓した敷・・・\n今回は10月21日放送の ポツンと一軒家 を振り返ってみます。 衛星写真を拡大すると見えてくる 山奥にある一軒家を調査する番組で 岩手県のポツンと一軒家を聞き込みすると 何でも知っているというヒラツカさんを・・・\n今回は10月21日放送の 今、話題の場所と中継を結ぶ マツコ会議 eスポーツカフェ を振り返ります。 eスポーツとは、パソコン・スマホ・ゲーム機 などの対戦型ゲームで争う新競技で、 ディレクターさんによ・・・\n今回は、チコちゃんに叱られる! 運動会をやりようになったのは? チコドリルなどを振り返って いきたいと思いますので 宜しくお願い致します。 運動会をやるようになったのはなぜ? そ・・・\n今回は、チコちゃんに叱られる! 何で女性は電話に出ると 声が高くなる? 亀の長生きなどを振り返って いきたいと思いますので 宜しくお願い致します。 女性が電話に出ると声が 高くなるのは、ちっち・・・\n今回は10月17日放送の 雨上がりの「Aさんの話」 ~事情通に聞きました!~ カラクリだらけのランキング を振り返ってみます。 誰がどんな調べ方をしたのか わからないのにランキング形式で 発表されるとつい気・・・\n今回は10月17日放送の ホンマでっか!?TV 実はこうなりつつある! 変化するニッポンランキング を振り返ってみます。 時代の変化とともに 変わりつつあるニッポン。 実は今、こうなりつつある・・・\n今回は10月17日放送の 雨上がりの「Aさんの話」 ~事情通に聞きました!~ カラクリだらけのランキング を振り返ってみます。 世界でもっとも住みやすい 都市ランキング2018 ・・・\n今回は10月15日放送の、 長嶋一茂と怒れる女たち を振り返っていきたいと 思いますので宜しくお願い致します。 世の女性たちが 怒っている事を調査し、 女性・男性ともに無駄なトラブルを 避けられるようにする・・・\n今回は10月14日放送の ポツンと一軒家 を振り返ってみます。 静岡県にあるポツンと一軒家を 捜していると、ジョギング中だった 地元の事情通 コウゾウさんと出会う。 ポツンと一軒家について、知・・・", "perplexity": 11.404461583489942}} +{"row_index": 45798, "sha1": "315974172036cc66fa201f60efbb1d61e33b75d7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 40935, "reason": "exact_duplicate", "record": {"url": "http://zezeyaki.jp/cephalomant2359990.html", "content": "## アウトドアにハマる!ミリタリールックなソーラー駆動のタイメックス\nアメリカ発の腕時計ブランド・TIMEX(タイメックス)より、ソーラー機能を搭載した腕時計「Field Post Solar(フィールド ポス...ニュース\n## ミニマルなデザインが目を引くナタを焚き火のお供に\n焚き火の準備に重宝する鉈。「欲しいけど、自分のキャンプスタイルにはちょっとゴツすぎて」という人に、ナイスタイムの新製品...ニュース\n## 映画にもなった宇宙船「アポロ13号」の破損状態を製作!【達人のプラモ術<アポロ13号>】\n今回からは、連載初の宇宙モノである“アポロ13号”を製作していきます。映画化もされた、おそらくアポロシリーズで最も有名な13...How To\n## 仏海軍“戦闘ダイバー部隊”と共同開発したチューダーの新作ダイバーズ\nスイスの腕時計ブランド、チューダーより、ブランドのDNAを引き継ぐ機械式ダイバーズウォッチ「ペラゴス FXD」が登場。ストラッ...ニュース\n## 抜群の切れ味と耐久性!折り畳めるハサミ型マルチツール、レザーマン「ラプター レスポンス」\n折り畳み式の救急ハサミとして大ヒットしたレザーマンのマルチツール「ラプター」に新作「ラプター レスポンス」が登場。メイン...体験レポ\n## イエナカ趣味時間を快適にする技あり掃除機4選【快適ラクチン趣味活モノ】\n年々便利な機能が加わる掃除機。気が利く技あり機能を備えた最新モデルなら、さりげなくても確実に手間が減り、毎日の掃除がよ...トピックス\n## 下半身にも威力絶大!太もも、ひざ裏、腰をセルフボールでコロコロケア\n在宅・テレワークの体をケアする 「MONO TRAINING<モノトレ>」 現代人にとって、体のこりや痛みを生じてしまう原因はいくつ...How To\n## iPad用のUSBハブにショートカット物理キー付きって意外と便利かも\nメディアショートカットキーを搭載したiPad向けのUSB-Cハブ、HYPERの「HyperDrive 6-in-1 USB-C Media Hub for iPad」がMakuake...ニュース\n## スマホの磁力の影響を防ぐ“第2種耐磁”を備えた「シチズン シリーズエイト」\nシチズンのシリーズエイトより、“第2種耐磁”性能付きのムーブメントを搭載し、磁力の悪影響を極力抑えた「870 Mechanical 限定...ニュース\n## SSDスロット付き!全部入りドックにつなげてマイマシンを強化しよう!\nj5createの「USB-C M.2スロット搭載 12in1 ドッキングステーション JCD552」は、全部で12口の接続ポートを搭載。M.2 SSDスロッ...ニュース\n## 高級感とワイルドさを両立したGANZOの三つ折りミニ財布\n日本製高級革財布ブランド GANZOより、新作の三つ折り財布「SHELL CORDOVAN2(シェルコードバン2)三つ折り財布」が発売。深み...ニュース\n## リールがモチーフ!? TIMEXが釣具ブランド「アブ・ガルシア」と異色のコラボ!\nTIMEXより12月中旬発売予定の新作「Abu Garcia×TIMEX スペシャルウォッチ」は、人気フィッシングブランド・Abu Garciaとのコラ...ニュース\n## ホカ オネオネ×モンクレールはフランスコラボらしいトリコロールが目印!\nホカ オネオネとモンクレールというフレンチアルプスにゆかりのある2ブランドによるトレランシューズ「Moncler×HOKA MAFATE SP...ニュース\n## 急がないと買えなくなるかも!? ホンダ クロスロード【遊べる絶版車図鑑】\n発売当時はあまり評価されず販売台数はふるわなかったホンダ クロスロード。わずか3年半で生産終了になりましたが、ここ数年、...コラム\n## 全自動コーヒーメーカー10モデルバトルロイヤル【快適ラクチン趣味活モノ】\nハンドドリップで手間をかけて淹れるのも楽しいが、毎日飲むなら全自動で手軽においしいコーヒーを楽しみたいという人も少なく...トピックス\n## 地球越しにみるムーブメントが美しいフレデリック・コンスタントのスケルトンモデル\nスイスのマニュファクチュールブランド、フレデリック・コンスタントが、限定モデル「ハイライフ オートマチック スケルトン」...ニュース\n## まだまだノートも必要ならノートPCサイズの横長タイプがいいかも\nクラフトデザインテクノロジーから発売の「デスクノート」(Sサイズ:990円、Lサイズ:1320円)はノートPCの前に置いてちょうど...ニュース\n## 家の中も外も高コスパなセキュリティカメラを設置して安心安全に\n「セキュリティカメラは高価なものばかりで、手が出せない...」と思っていませんか? 数多くのスマート家電を展開する+Styleから...ニュース\n## ミリタリーライクなワークエプロンはキャンプやDIYで大活躍!\nシンプルで無骨、どこかヴィンテージテイスト。そんなワークエプロンが、男前なギアを展開するPOST GENERALから新登場! ヴィ...ニュース\n## PCなしでデータ送信までできるドキュメントスキャナで紙のデータ化が捗る!\n## 軽さ、暖かさ、耐久性を兼ね備えたアークテリクスの本気ダウン\nARC’TERYXの新作「ALPHA PARKA」は、過酷なアルパインクライミングでの着用を想定して設計されたダウン仕様のビレイパーカー。...ニュース\n## リフレクターにAirTagを忍ばせてしれっと自転車の盗難対策!\nステルスAirTagバイクマウント「Maco TRACE」は内部にAirTagを収納できるリフレクター。もし自転車が盗まれても、AirTagの電波...ニュース\n## 暖かく高機能な水沢ダウンのハイスペックモデルをリラックスフィットに!\n冬の悪天候時の厳しい寒さにも耐えうる高機能ダウン「水沢ダウン」。そのハイスペックモデル「マウンテニア」が、人気セレクト...ニュース\n## 毎日の食事をダイエットに変えてくれるヘルシー調理家電5選【快適ラクチン趣味活モノ】\n【快適ラクチン趣味活モノ】 近年、糖質や油分を控えるなど、健康的な食事に気を遣う使う人が増えてきた。そんなニーズに応え...トピックス\n## 軽くてコンパクトでメガネのようなVRグラスなら持ち歩きも苦じゃないね\n11月より発売の「VIVE Flow (ヴァイヴフロー) 」(型番:99HASV006-00、5万9990円)は、同社としても初となるメガネ型の軽やか...ニュース\n## 単3&単4充電池を充電できてライトでもモバイルバッテリーでも使えるぞ!\nenevoltの充電池用充電器「Mulcy(マルシー)マルチ充電パワーバンク」は、18650形充電池とニッケル水素充電池を同時に充電する...ニュース\n## 10万円超のコンパクトスマホ「BALMUDA Phone」が表現するバルミューダらしさとは\nバルミューダがスマホを発表しました。その名はズバリ「BALMUDA Phone」で、11月26日に発売されます。国内キャリアではソフトバ...ニュース\n## 窓から炎を眺められる焚き火台はBBQも調理もやりやすい!\n待ちに待った焚き火シーズン。「炎を目で見て癒されたいけど安全性も大事、もちろん直火調理は欠かせない」なんて欲張りなキャ...ニュース\n## パッと見はシンプルなバックパックなのに内部はかなり凝ってます!\nあらゆるシーンで誰もがカッコよく持ち歩ける多機能パックパックとして話題の「Errant Backpack」が、いよいよ日本に上陸。“持...ニュース\n## ドライバーに異常が生じたら自動で運転!マツダ“CO-PILOT”のドラテクはプロ級だ☆岡崎五朗の眼\nマツダは2022年に発売する新型車から、新しい先進運転支援システム“MAZDA CO-PILOT(マツダ・コ・パイロット)”の搭載を進めて...体験レポ\n## 木彫りの金剛力士立像は高さ約10cmなのにド迫力!\n仏像ワールドから12月1日に発売される「極小仏 金剛力士立像」(2体セット・3万8500円)は、東大寺南大門にある同名の国宝を、...ニュース\n## しまっておいた服に付いた“あのニオイ”が気になるなら立ち上がり約30秒の衣類スチーマーで簡単ニオイケア\n緊急事態宣言が明け、通勤する機会が増えた今日この頃。困るのが、着るものです。長かったテレワーク期間中、楽な格好しかして...体験レポ\n## 独自技術でこだわりの味を堪能できるキッチン家電4選【快適ラクチン趣味活モノ】\n手軽さや対応レシピの充実ぶりも大事だが、料理を趣味にしているなら味にもこだわりたいところ。独自の 技術でワンランク上の味...トピックス\n## 春麗仕様の室内用バイクでストVのキャラのような肉体を目指してみる?\nステディジャパンから室内用バイク「春麗モデルスピンバイク」(2万9800円)が発売。カプコンの対戦格闘ゲーム「ストリートファ...ニュース\n## フォノアンプ内蔵のレコードプレーヤーでアナログ音質を堪能しよう\nティアックより11月下旬に発売予定の「アナログターンテーブル(TN-350-SE)」は、本体にフォノアンプを内蔵。レコードのアナロ...7万円で買えるご褒美モノ\n## エコなコーデュラ素材を使ったアウトドアプロダクツ×ネイバーフッドのコラボバッグ\nOUTDOOR PRODUCTSとNEIGHBORHOODが3年ぶりにコラボした新作バッグ4アイテムが登場。製造廃棄物を再生した環境に優しいナイロン...ニュース\n## 後ろ側が開くから長いテーブルやタープポールも寝かせて運べます!\n荷物が多くなりがちなキャンプやBBQの際に、あると便利なのが大型のキャリーワゴン。WGの「WGキャリーワゴン」は、荷台の後部が...ニュース\n## 磁石でくっつく小型スピーカーだからMagSafe対応iPhoneにもくっつきますよ\n「MiLi Mag-SoundMate」(2970円~ 11月16日現在)は、MagSafe対応iPhoneに磁力で簡単に脱着可能で、スタンド代わりにも使用で...ニュース\n## 人気記事ランキング\n## 焚き火台で湯沸かしできれば洗い物に助かる!足湯もいいかも!1位ニュース\n## 冬にうれしいブーツライクな「ナイキ エア フォース 1」が今どき感満点です!2位体験レポ\n## iPadユーザーなら知っておきたいApple製品との連携機能5選|iPad Hacks3位How To\n## コーヒー好きのためのマルチツール「ビクトリノックス×カリタ」が誕生!4位ニュース\n## これだけあれば最低限のソロキャンプができる6つの厳選ギア!2021年版5位体験レポ\n## ゆらぐアロマミストはまるで炎!ゆらぎと香りで癒しのリラックスタイムを6位ニュース\n## 単3&単4充電池を充電できてライトでもモバイルバッテリーでも使えるぞ!7位ニュース\n## 動きやすく暖かい!2種類のウールを使ったホグロフスのフリースジャケット8位ニュース\n## 雨が降るとむしろキレイに?愛車メンテナンスは自分でやっちゃおう9位ニュース\n## 冬の足元をぬくぬくに!アウトドア系ブランドの最新冬靴5選10位THE 5選\n## ラウンドアップ\n## 飾る楽しさが倍増する“胸アツ”ディスプレイアイテム9選【趣味な男の収納ギア】トピックス\n## プラモ製作用工具をスッキリしまえる技アリ収納ボックス7選【趣味な男の収納ギア】トピックス\n## バッグタイプ×データで導き出すカメラバッグの最適解8選【趣味な男の収納ギア】トピックス\n## プロフェッショナルの信頼を集めるハードケースの雄“PELICAN”【趣味な男の収納ギア】トピックス\n## オン・オフ使える“ゆる系”ビジネスバッグ7選【趣味な男の収納ギア】トピックス\n## 必要なのは工具だけじゃない!作業の効率が上がるサイドグッズ8選【趣味な男の収納ギア】トピックス\n## 作業の気分も上がる!? 身に着ける工具入れ8選【趣味な男の収納ギア】トピックス\n## プロフェッショナル気分になれる据え置き型ツールボックス6選【趣味な男の収納ギア】トピックス\n## 工具を整理&収納して持ち運べる小型ツールボックス7選【趣味な男の収納ギア】トピックス\n## あらゆるフィールドで大活躍!華麗なる“ハコ車”6選【趣味な男の収納ギア】トピックス\n## 機能、信頼、使い勝手etc“語れる”バックパック4選【趣味な男の収納ギア】トピックス\n## 収納力が格段にUPするルーフボックス6選【趣味な男の収納ギア】トピックス\n## 四角くすれば何かと便利!キャンプ系“ハコモノ”8選【趣味な男の収納ギア】トピックス\n## 大きなギアもラクして運べるアウトドアワゴン5選【趣味な男の収納ギア】トピックス\n## 普段使いもできるフィッシングウエア7選【最優秀ベストバリューモノ大捜査】トピックス\n## これさえあれば始められる!初心者向けフィッシングギア【最優秀ベストバリューモノ大捜査】トピックス\n## 秋の夜長に浸れる焚き火&灯りギア6選【最優秀ベストバリューモノ大捜査】トピックス\n## 動画撮るなら専用機で!最新Vlogカメラ&アクションカム5選【最優秀ベストバリューモノ大捜査】トピックス\n## マンスリーチョイス\n## 最高120°Cまで熱くなるロシアのテントサウナで“ウィスキング”してみない?ニュース\n## ジウジアーロがデザインした稀代の名車「いすゞ 117クーペ」初期型を精密再現!ニュース\n## 釣りシーンから生まれたDAIWAの高機能ジャケットは街でも着られる高コスパな1着ニュース\n## 1/64ミニカーで“農道のポルシェ”スバル サンバー トラックが楽しめる!ニュース\n## キャンプついでに釣りする?気軽に使えるロッドありますよニュース\n## ああ、そういう意味ね!...が面白い「切りたい麻雀牌」で卓を囲みたくなるニュース\n## Wi-Fi 6関係ない?いやいやスティック挿すだけで恩恵が得られますよニュース\n## スマホとつながる進化系ポラロイドが創造性を刺激する7万円で買えるご褒美モノ\n## ちょい長めが何かとサウナにちょうどいい!ちなみに長さは“113.7cm(いいサウナ)”ニュース", "perplexity": 31.591948042081125}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..d3540ca9d47db19539430d71ab9e2b95375ed6f7 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0116/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0116", + "rows_in": 45816, + "rows_dropped": 5, + "rows_out": 45811, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:07.300301+00:00", + "compression": "ZSTD", + "verified_sha1": 5, + "seconds": 3.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/common_crawl_3_filtered_0117.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/common_crawl_3_filtered_0117.parquet new file mode 100644 index 0000000000000000000000000000000000000000..f908ed7cdc600c2eae807a5c6393c1b70a834b28 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/common_crawl_3_filtered_0117.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e7f709072ab67e3ddf6671379fa8249e443450c885951819a258bb7534cd2bc1 +size 109886946 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..77c95fa9142dd360a0c458ed32231b25aa5aa06e --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 5351, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Rohre-&-Rohrzubeh%C3%B6r-195221-Rohrstopfen-Rechteckstopfen-Lamellenstopfen.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 25623, "sha1": "d13f69dbcce0ab97a66b7eb97e9b98e5d69dd620", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 28263, "reason": "exact_duplicate", "record": {"url": "http://messy.homeip.net/3078-3-day-special-15-cashback-on-irctc-story-ja", "content": "Poly、「Microsoft Teams Rooms」対応の会議室ソリューションを発表\nレノボ、SCSKとゲノム解析分野で協業\n浦和レッズ、「LINE WORKS」を全社員に\nクラウドアプリベンダーがより使いやすく―アイネットのIaaSサービス「Next Generation EASY Cloud」\nアマゾン、高齢者見守りサービス「Alexa Together」を米国で開始--自立した生活を支援\nマイクロソフト、宇宙事業「Azure Space」のエコシステム拡大--エアバスと提携も\n「Raspberry Pi OS」、2種類が提供へ--Buster版とBullseye版\nガートナーのアナリストが説く「エッジ×機械学習」のインパクトとは\n「Microsoft Teams Store」が刷新--アプリの検索やインストールが容易に\nオラクルの第2四半期決算、予想上回る--クラウド事業が好調\nNews from ZDNet Worldwide\n本国アメリカのZDNetが発信する海外最新IT動向やテクノロジトレンドに関するニュースを毎日発信!\n量子コンピューティングのビジネス利用--経営陣が今すべきこと\n量子コンピューティングは開発の初期段階にあり、現時点で多額の研究開発費を投じるのは難しいかもしれない。だが、自社への潜在的な影響の調査は早めに開始しておく必要がある。\n教育業界において急務となっているICT環境の整備においてのヘッドセット、ウェブカメラ、ビデオバーなどのオーディオ・映像機器の管理方法を解説します。\nライブ画面から購入可能--ピーチ・ジョンがライブコマースサービス採用\n下着やルームウェアなどを展開するピーチ・ジョンは、日本ユニシスのライブコマースサービス「Live kit(ライブキット)」を採用した。新しいCXを提供し、消費者との継続的な関係を構築することが目的だという。\nAWS、クラウドベースのソリューションでファイザーの創薬加速化を支援\nAWSとファイザーが連携し、新薬の開発や生産、臨床試験に向けた配送を迅速化するクラウドベースのソリューションを生み出している。\n日立と応用地質、「地中可視化サービス」強化--オンデマンドで高精度な埋設物位置情報を提供\n日立製作所と応用地質は、上下水道、ガス、電気、通信などインフラ事業者や施工/設計業者向けに展開する「地中可視化サービス」を強化し、クラウドを活用した新たなオンデマンドサービスとして提供開始した。\n医療機器メーカーの朝日インテック、本社と海外グループ会社で「SAP S/4HANA」稼働\n朝日インテックは、本社と海外グループ会社でERP「SAP S/4HANA」、クラウドプラットフォーム「SAP HANA Enterprise Cloud」、分析ソリューション「SAP Analytics Cloud」を導入し、7月から本格運用している。\nパナソニックら、コンソーシアム設立--生体認証活用の業界横断型プラットフォーム実現へ\nJCB、DNP、パナソニック、りそなHDは、生体認証を活用した業界横断型プラットフォーム「顔認証マルチチャネルプラットフォーム」の実現に向け、コンソーシアムを設立した。\nエクイニクス、アフリカで事業拡大へ--データセンター企業MainOne買収を発表\nデータセンター大手エクイニクスは、西アフリカを本拠地とするデータセンター企業MainOneを3億2000万ドルで買収し、アフリカで事業を拡大すると発表した。\n仮想デスクトップサービスの最新事情~マイクロソフトのVDIサービスはどう違う?\n[PR]働き方改革や新型コロナウイルス感染症対策に伴い、自宅などからのリモートワークが身近になり、情報漏えい対策の観点から仮想デスクトップ基盤(VDI)の利活用しているところは多いだろう。\nRustをLinuxカーネル開発の第2言語に採用する試みに向け新パッチ\nLinuxカーネルの開発にRustを採り入れようとする動きが少しずつ歩を進めているかもしれない。\n### 企画特集\nエッジ市場の活性化へ\n高まるIoTを中心としたエッジ分野への期待\nOSS活用が新しい時代のビジネスを拓く\nアプリケーションモダナイズ\n求められている背景にあるビジネスの今\nそして、成功の鍵を握るDevOpsの真の意味\nともにDXを推進する\nコンテナ化されたワークロードを管理\n継続的な価値を生みだす「協創」への挑戦\n単純なインフラ製品の販売ではない\nDX、コンテナプラットフォームの実証など\n自社の取り組みで得られた知見を顧客に提案\nデータドリブンに足りないもの\nDOMO Japan 川崎氏に聞く\nデータ活用能力の向上に必要なこと\nKubernetes活用の最適解とは?\n今、注目のコンテナを活用した柔軟なIT基盤\n運用、管理の課題を解決しメリットを最大化\nID管理の基礎知識\n新しい働き方におけるITガバナンスの\n向上にむけて\n楽天エコシステムとのシナジーを創出\nスタジアムや経済圏を生かした実証実験も\n楽天モバイル流5G共創プログラム\n50年の経験を持つアイネットが提供\nユーザー企業の使いやすさを第一に考えた\nワンストップで使えるマネージドクラウド\n最新ストレージで変わるIT運用\n仮想化テクノロジーとFlashArrayの組合せで\n運用負荷軽減と高性能化を実現したDMM\nRPA見直される”業務”と”人”の関係\n人的リソースを単純作業から解放!\n高付加価値業務への転換のために\nオリジナルコンテンツが満載!\n意外と知らないNutanix HCI の情報を集約\n読めばわかる!いまHCIが注目される理由\nビジネスのためのデータ基盤構築\nDX時代の企業成長はデータ活用が鍵\n新たな展開を後押しするSQL Server活用\n今を知り、未来を見据える\n培ってきたノウハウを最新技術へ対応させる\nレガシーシステムのモダン化実現への道\nサイバー犯罪者の優勢に立つ\n導入・運用がしやすい次世代セキュリティ\n巧みな攻撃を防ぐ「NDR」に注目!\nビジネスの推進には必須!\nZDNet×マイクロソフトが贈る特別企画\n今、必要な戦略的セキュリティとガバナンス\n20年培ったデジタルカイゼン文化\n誰もが知るあの「Notes」で実現する\n現場とIT部門二人三脚でのデジタルカイゼン\nモダンなOSだからこそ可能\nMS製品の歴史を振り返りながら\nビルトインセキュリティの利点を理解\n本当のデータ活用できていますか?\nデータドリブンがあたりまえと言われる今あらためて考えたいデータ活用のありかた\n見えてますか?通信のボトルネック\n快適なデジタルワークの阻害要因を解消\nZscaler Digital Experience(ZDX)導入の価値\nデジタル時代のITインフラ構築術\n仮想化統合、クラウドを経て今「マルチ」へ\nITインフラの最適化と継続的進化への道筋\n身近な改善の第一歩!\nニューノーマルな働き方を前提にした\nこれからの時代のWi-Fi環境構築のポイント\n現場主導のデジタル変革\nビジネス変革のための“ITの民主化”\nそして 変わるIT部門の役割\nEDRトップランナー対談:後編\nセキュリティ戦略を転換せざる得ない背景と\nEDRのような手法が必要な理由に迫る\nビジネスとITの最前線\n官民をあげてDXを急ぐ中で、\nキーマンが語る成功へのポイント\n激変するビジネス環境の中でのDX\nモダンアプリケーション戦略への取り組みが\n市場の競争力の源泉となる\n全世界22万以上の企業・組織で採用\nDX時代の顧客価値創出に大きな役割を担う\nCI/CD環境の現実解を紐解く\nクラウドネイティブの実現\nモダンインフラの構築・運用の課題解決へ\nコンテナの可能性を広げるVMware Tanzu\niPhoneデバイスも統合的に管理\n激しく変化する業務環境とリスクに合わせ\n深化するM365セキュリティ\nリモートワークを成功させる方法\n必須となるセキュリティをどう強化するか\n必要な対策5つを紹介\nアプリ開発がビジネスを左右する\nクラウドネイティブ時代に\nアプリ開発に専念できる環境の重要性\nアプリが簡単にできるって本当?\nセールス、マーケ、人事の3名が実際に体験\n業務をローコードツールで改善してみた\n今時プライベートクラウドの作り方\n2020年代のプライベートクラウド環境を\nAzureとVMwareを例に紹介\n仮想デスクトップサービスの最新事情\n複数の選択肢のあるMSのVDIサービス\nどう違うのかをわかりやすく解説\n製造業を悩ますセキュリティ課題\nグローバルサプライチェーンに潜む\nサイバー脅威への理解と具体的な対策\nデータ活用は次のステージへ\nトラディショナルからモダンへ進化するBI\n未来への挑戦の成功はデータとともにある\nセキュリティモデルは変わった!\nクラウド活用、リモートワークはあたりまえ\nいま求められるゼロトラスト実現のために\nオープンソース活用はあたりまえ!\nそんな今だからこそ改めて考える\n企業ITにおけるOSS活用のメリットとリスク\n自社利用の知見・経験を顧客に提供\nコンテナ活用を推進する日立製作所", "perplexity": 16.992037616227375}} +{"row_index": 34802, "sha1": "d7460ddc06bcba3623bb1604d8368b2c158073c4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0081", "kept_row_index": 129, "reason": "exact_duplicate", "record": {"url": "http://frontlinenow.com/brit4799003.html", "content": "農業の全てが集まるWEBサイト「マイナビ農業」の企画営業職を募集\n作物がうまく育たない。その原因、肥料のせいにしていませんか?初代葱師“寅ちゃん”が提言する「すべては技術力にあり」。その真髄に迫る!\n農家にとってこれからはデータによる圃場管理が欠かせません。『xarvio(ザルビオ)』で、衛星画像×AI解析を道標に栽培管理を最適化。\n*NEW*\n「被害株4~5割でも秀品を作る」サツマイモ基腐病と闘う『宮崎紅』の伝統産地\n不安定な時代だからこそ、契約栽培で安定した農業経営を目指しませんか。カゴメがトマトの契約農家募集中\n就農5年目で売上600万円も夢じゃない!「儲かる農業」を目指すなら、宮崎県小林市&高原町\n大自然なのにアクセス&住みやすさGOODな南阿蘇♪ 地域おこし協力隊 として移住への第一歩を踏み出そう!@熊本\n「立梅用水」の恵みを生かした中山間地域での農業&地域課題研修に参加しませんか?【「あぐトリ」参加者募集中!】\n吹きすさぶ寒風をシャットアウト。蒸れずに体感プラス5°C、防風インナーで作業してみた\n腐植物質で作物はストレスに強くなる! デンカ新商品の使用感が凄い\n牛舎の”可能性”に注目!牛舎の新築時は見逃すことなかれ!搾乳量アップの決め手となる「次世代閉鎖型牛舎」とは\n鹿児島ブランドのさつまいもを世界へ。海外からの需要が絶えない、Japapoの美味しさと安定供給の企業秘密に迫る\n腐食性ガスを発生する農作物の長期保管に。 冷蔵設備の耐食性を高め、故障リスクを低減する「カチオン塗装」とは\n【動画付き】大分県ならではの自然環境と手厚い支援でいざ、就農! 白ねぎやキャベツなど【露地野菜栽培】の魅力や高原農業のメリットとは?\n【タキイ研究農場付属園芸専門学校】入学金・授業料・寮費食費はゼロ。約7割が実習という環境で、農業の実践力を身に着ける!\n農薬って結局どうなの?持続可能な農業と作物保護について考えてみませんか\n労働時間や用水量の削減だけでなく、米作りも変える『WATARAS(ワタラス)』とは\n【農業体験in福島県浪江町】憧れを“現実に”。農業体験を通して見えてきた目指す営農スタイルと農業の可能性。\n組織づくりに尽力!充実して働ける環境を実現できた畜産企業の秘策とは\n「林業」の仕事を山口県で実現しよう! 1/29(土)にオンライン講座を開催【参加者募集中】\n※アーカイブ動画公開中※【11月21日(日)13:00開催】農業法人で働く先輩農家が畑からLive配信!こうち就農Liveセミナー\n日本の畜産を盛り上げたい!―JGAPを通じて人にも動物にも優しい畜産を目指す遠野牧場の挑戦―\n【福島県福島市】生活圏内で農業を!子育て世代にもやさしい「都市近郊農業」に見る、新しい営農のカタチ\n## 新着記事\n6次化で失敗する要因とは。小さい農家が考える、勝てる加工【ゼロからはじめる独立農家#28】\n安全な堆肥は良い堆肥に通じる リスクを下げる堆肥作りの方法\n持続可能な水産業を目指して 海を守るため、漁師がしていること 私たちができること\n【会員限定】多品目栽培だけが選択肢じゃない、「豆がメイン」に転換した有機農家\n生産の効率化に挑むJAの次の一手とは 収穫機の無人化の先に“共同圃場”構想\n漫画「宮崎に移住した農家の嫁日記」【第193話】畑の特性を把握しよう\nニッチ作物だから出会いがある。農業女子があえて直販する白小豆\nつぶやくだけで作業記録を付けられる 原価6000円でコメ1俵を目指す農家の働き方改革とは\n【外国人雇用について考える】第35回:企業が外国人留学生を採用する方法とは?正社員やアルバイトでの雇用方法を紹介!\n【外国人雇用について考える】第34回:外国人のアルバイト雇用でも就労ビザは取得できる?副業アルバイトでの雇用は可能?\n### 持続可能な日本の農業 JGAP認証を知ろう!\n### 農業をはじめよう!がばいよかとこ佐賀で!\n### 岐阜ではじめる農業ライフ | ぎふアグリチャレンジ支援センター\n### みやざき就農希望者発掘事業\nあなたはどのタイプ?就農診断チャート", "perplexity": 36.68351378212871}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..2d1bd99f215af9e0dc3b5b82ea95c5737118bb56 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0117/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0117", + "rows_in": 46072, + "rows_dropped": 3, + "rows_out": 46069, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:08.343151+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.4, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/common_crawl_3_filtered_0118.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/common_crawl_3_filtered_0118.parquet new file mode 100644 index 0000000000000000000000000000000000000000..7cf9508700add3b1d28fe046bd50925afae83ee6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/common_crawl_3_filtered_0118.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d0762c1374407c2fcf3a8a541972614ecae70057a36d22c3c07e852219f345bf +size 109805307 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..d348dbd827c19b7ac05f6b87ca4a16ef702feba5 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 6641, "sha1": "5f236feb5603c42ca9d4d0017ecf18fb26264da1", "kept_config": "common_crawl_3", "kept_shard": "common_crawl_3_filtered_0056", "kept_row_index": 39892, "reason": "exact_duplicate", "record": {"url": "http://www.salon-eight.com/hyperenthusiasm884967.html", "content": "## 特集記事\nリック・アリソン リック・アリソン (本名: ÉricVleminckx、1964年7月17日、ブリュッセル生まれ)は、ベルギー生まれのカナダ人歌手、作家、レコードプロデューサーです。 バイオグラフィー 1990年、アリソンはブリュッセルのピアノバーで歌手のララファビアンに会いました。彼らは一緒に最初の曲を書き始め、1991年にモントリオールに行ってファビアンのファーストアルバムに取り組みました。このレコードは1991年にカナダで発表され、商業的に大きな成功を収めました。アリソンはファビアンの次のフランコフォンアルバムを制作しました 今を楽しめ, ピュア そして 鵺、これらはすべて非常にうまく機能し、カナダとフランス語圏のヨーロッパでいくつかのヒットシングルを生み出しました。彼はまた彼女の最初の英語のアルバムに取り組んだ ララ・ファビアン. 全部で、彼は2500万以上のレコードを売りました。 2002年のユーロビジョンソングコンテストでは、アリソンはサンドリーヌフランソワによるフランスのエントリー「Ilfautdutemps」の音楽を書きました。その同じ年、彼はジョニー・アリディのアルバムに3曲を寄稿しました Àlavie、àlamort、シングルを含む Penseàmoi. アリソンは、シメーヌ・バディのデビューアルバムをプロデュースしたときに (\n## 知ってますか ...\nLesMisérablesの架空の人物 ファンティーヌレ・ミゼラブル キャラクターファンティーヌ マーガレット・ホールによって作成されたヴィクトル・ユーゴー宇宙内情報性別女性職業工場労働者、売春婦重要 その他FélixTholomyès子供達コゼット(娘)親戚マリウス・ポンメルシー(義理の息子)国籍フランス語 ファンティーヌ (フランス語の発音: [fɑ̃.tin])は、ヴィクトルユーゴーの1862年の小説の架空の人物です レ・ミゼラブル。彼女は若いです グリゼット 金持ちの学生に妊娠したパリで。彼が彼女を捨てた後、彼女は自分の子供、コゼットの世話をすることを余儀なくされました。元々は美しく素朴な少女だったファンティーヌは、状況によって売春婦になることを余儀なくされ、髪と前歯を売り、美しさと健康を失いました。彼女が稼いだお金は彼女の娘を支援するために送られます。 彼女は最初にフランスのローズ・ローレンスによってミュージカルで演奏され、ミュージカルがイギリスに来たとき、パティ・ルポーンはウエストエンドでファンティ (\n## ニュースで\nこの記事 ソースを引用していません. 助けてください この記事を改善する 信頼できる情報源に引用を追加することによって。調達されていない資料は、異議を申し立てられ、削除される場合があります。ソースを見つける: 「ベルギーロイヤルエスコート」 – ニュース · 新聞 · 本 · 学者 · JSTOR (2009年12月) (このテンプレートメッセージを削除する方法とタイミングを確認してください) 2018年ベルギー建国記念日のベルギー王立護衛 ザ・ ベルギーロイヤルエスコート (オランダの: Koninklijk escorte te paard、 フランス語: Escorteroyaleàcheval)は、儀式の際にベルギーの君主に同行する馬とオートバイに取り付けられたユニットです。また、ブリュッセルの王宮で資格情報を提示する外国の元首や大使に護衛を提供します。 内容 1 組成 2 歴史 3 現代の護衛 4 も参照してください 組成 ロイヤルエスコートはフルタイムのユニットではありませんが、上記のような主要な式典の際に集められます。それは連邦警察のユニットによって提供されます。憲兵隊と警察が合併する前は、ユニットは憲兵隊によって提供されていました。マウントされた護衛とオートバイの護衛の2つのロイヤルエスコートがあります。 歴史 ベルギーの君主は、1830年のベルギーの独立以来 (\n## この日に\nアメリカの政治家については、ロバートバトラー(バージニア州の政治家)を参照してください。 ロバートN.バトラー2004年の執事生まれロバートニールバトラー(1927-01-21)1927年1月21日ニューヨーク市、ニューヨーク、米国死亡しました2010年7月4日(2010-07-04) (83歳)ニューヨーク市、ニューヨーク、米国母校コロンビア大学賞ピューリッツァー賞(1976)科学者としてのキャリア田畑老年学精神医学 ロバートニールバトラー (1927年1月21日– 2010年7月4日)は、米国国立老化研究所の初代所長であったアメリカの医師、ジェロントロジスト、精神科医、および著者でした。バトラーは、高齢者の社会的ニーズと権利に関する研究と、健康的な老化と認知症に関する研究で知られています。 内容 1 バックグラウンド 2 キャリア 3 出版物 3.1 最近の本 4 賞 5 映画出演 6 参考文献 7 外部リンク バックグラウンド ニュージャージー州バインランドで祖父母と一緒に育ったバトラーは、医学部の多くの教師による高齢者とその病気に対する軽蔑的で軽蔑的な態度にショックを受けました。この態度は後に「エイジズム」と呼ばれました。 彼はコロンビア大学のコロンビア大学を卒業し、そこで編集者を務めました。 コロンビアデイリースペクテイター そしてフィロソフィアンソサエティのメンバー。 キャ (\n## その日の絵", "perplexity": 11.780392136810283}} +{"row_index": 12713, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://www.kitosya.com/kernel422279.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} +{"row_index": 20470, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Aderend-&-Isolierh%C3%BClsen-338046-48x08mm-St%C3%BCck-Steckverbinder.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 29374, "sha1": "ffcf929c134cf75cd98e619bac27f474eb0205d6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0055", "kept_row_index": 35321, "reason": "exact_duplicate", "record": {"url": "http://jtfeatures.com/differentiate227226.html", "content": "### 色とりどりの鍵と自分の能力値\n2021年6月末から7月下旬まで、ベリア村の海岸に出現した宝箱を開けていくイベントがありました。\n色とりどりの鍵イベント\n宝箱の周りには、コルセアがボスとなっているパタパタ海賊団のラッコたちがいます。\nこの宝箱は、イベント期間で狩り・釣り・採集で手に入る色とりどりの鍵を使う必要があります。\nイベント期間中で手に入った色とりどりの鍵は105個でした。\nちょっと少ない・・・かも?\n合計105回、ベリア村の海岸の宝箱を開けていった結果はこちら。\n100Mシルバーの価値がある黄金ガレー船像が1個だけ出ました。\nその他も高価な品がいっぱい・・・これは凄い!\n黄金シーラカンス像もバッグ内で1マスに重なってもらえないものでしょうか・・・。\nこの高価な品々を買い取ってくれるイケメンは・・・そう、彼ですね。\n豚に真珠ならぬ、オークに真珠ですが、そんなことはお構いなしに快く買い取ってくれました♪\n合計469Mシルバーのお買い上げ、ありがとうな!\n装備UIやキャラクター情報UIから、自分の能力値の詳細表記が見えるようになりましたね。\n自分の能力値の詳細表記\nキャラクター自身のステータス、装備のステータス、料理などのバフを加算した最終能力値が確認できます。\nそれにしても・・・このUI全体の大きさに比べて余白が多すぎませんか?\nちゃんと詰めて表記すれば、もっとコンパクトに纏められて見やすくなると思うのですが・・・。\nローカライズする言語によって幅が異なるのは分かるのですが、それにしても酷くないですかね?\nあんなに余白があるのなら、「...」などと省略しなくても表示スペースあるでしょ!?\n本当にセンスないなぁ・・・と思わざるを得ない。\nユーザの検証結果から隠しデータがあることが判明して、仕方なくとはいえ、\nいままでマスクして見えなくしていた仕様について公開しようという姿勢は評価したいと思います。\nしかし、個人的には3つほど不満点があります。\n- 無駄に余白を作り過ぎて見づらい!(前述)\n- 抵抗は記載があるのに抵抗無視の記載が無い!\n- 料理やエリクサーの効果を消せるようにしてくれないと最終能力値で比較がしづらい!\nこのあたりがケアされてきたら良くなるのでは、と思います。\nギルド補佐官でも集結命令が使えるようになってしまいましたw\n補佐官でも集結命令\nはい、たまには働かせていただきます・・・!\nではでは。=w=ノシ", "perplexity": 17.886247713666467}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..6ab5457f8c84c1ffccfb723ac40e1f7a0e6177bb --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0118/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0118", + "rows_in": 46256, + "rows_dropped": 4, + "rows_out": 46252, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:09.220879+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/common_crawl_3_filtered_0119.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/common_crawl_3_filtered_0119.parquet new file mode 100644 index 0000000000000000000000000000000000000000..8246c8de6236f3b5d55ebdbd5930a8a0c228ee7f --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/common_crawl_3_filtered_0119.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ba76ad6b0a9f1bd0f5a52e1a32ab82ea3b4cfbf6a0cb820721d3e339ed1b0f1f +size 110337420 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..41df01db59069dd1801b7a9fa36f12a501a87f52 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 6639, "sha1": "a0a9dc78e00fe5469c403d272e24ac23c6b21436", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 25656, "reason": "exact_duplicate", "record": {"url": "http://sacedfoundation.org/alembicate1536077.html", "content": "おいしくておもしろい食文化! “発酵”の魅力を伝える発酵ポータルサイト\n東京から世界へ。世界から東京へ。ファッションの楽しさを毎日お届け!\n文化はつながる。New Culture Context\n創意ある暮らしのための知恵をお届けします。\nクウネル読者のWEBサイト『クウネル・サロン』が始まりました!\n猫の家政婦・猫村ねこの大人気漫画! 最初の1コマから読めます。\n『edit Oita』大分を楽しむWebマガジン\n自然とつながる、私らしい時間が生まれる 庭づくりのためのエクシオールマガジン\nスタイルのある家と暮らし\nよりよい肌、よりよい毎日、そして、笑顔。\nanan女子に響くユニークなオリジナルコンテンツが満載!本誌記事も配信中。\n毎日をアクティブにする情報満載!\n子育てをもっと楽しく!働くママ&パパのためのお役立ち記事を毎日配信中☆\n福祉をたずねるクリエイティブマガジン\n東京の最旬情報のほか、誌面掲載店の検索やオリジナル記事などを毎日更新。\n心地よい暮らしのストーリー\n毎日配信中! ニッポンのローカルは楽しい! カッコいい! 進化してる!\nベターライフの素、毎日配信!\n美しい暮らしをデザインする Life Design Magazine", "perplexity": 22.04089571255041}} +{"row_index": 9161, "sha1": "5efe9279ac10b7489223c4c7559957a3d9c10d42", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0013", "kept_row_index": 7848, "reason": "exact_duplicate", "record": {"url": "https://misaquo.org/acara942750.html", "content": "## タイアップ企画\n農業で夢をかなえたい!異業種から参入した4人の自立就農奮闘記\nコストがかかる!販路がない!難易度の高い植物工場で黒字化を果たし、子会社も設立。未来を見据えた大気社の戦略\n温暖で自然が豊かな兵庫県上郡町で農業や地域活動にチャレンジしませんか?【「あぐトリ」参加者募集中!】\n【インターンシップ募集】”企業養豚”は機械化・几帳面・規模がスゴイの「新3K」だった!@鹿児島\n【雄大な景色が広がる北海道の宗谷エリア】新規就農を目指す方を全力でサポートします!\n上質な甘さとシャキシャキした食感。柿嫌いをもうならせる、大磯の大玉柿\nやまぐち農林漁業オンラインセミナー はじめの一歩!(11/14開催) & 山口県のイベント情報(11-12月)\n【鹿児島】九州の農畜産業をプロデュースする新しい仕事とは!? 銀行やIT企業などの異業種とチームをつくり、農畜産業の未来のために本気で取り組む企業に密着!\n【岡山県9】「モモ農家になる!」と決めた夫は、妻と赤ちゃんとともに東京から岡山へ\n山あり、川あり、海あり、あたたかい人あり。豊かな自然とともに、移住支援策も充実した高知県四万十町で農ある暮らしを試してみませんか\n本気で有機農業を学びたいなら熊本県を要チェック! “稼げる”有機農業の厳しさとおもしろさ、サポート体制とは!?\n日本の酪農界に新風! 牛の暑熱対策、快適環境を実現する「次世代閉鎖型牛舎システム」\n北海道の道央エリアにある日高地域で始める新しい生活。農業の特徴と魅力とは~Agriculture Of HIDAKA~\n【福島県湯川村イベントレポート】湯川米と新鮮野菜でつながるオンラインイベント。4km四方の福島県一小さな村にギュッと詰まった“おいしい”を堪能!\n*NEW*\n農×地域創生!京都最北端の町で、12日間の研修に参加しませんか?【手当・補助あり】\n青色申告の仕方が分かる!『スタディ青色申告』オンライン講座【受講生募集中】\n日本の田舎、福島県西会津町。自然の恵みを肌で感じながら、農ある暮らしを体験してみませんか【研修手当・補助あり】\n【アルバイト募集】作業の効率化を意識する『常総井上農園』。最新農機の操作と栽培スキルが身に付く環境で野菜づくりに挑戦しませんか\nそば打ち&陶芸体験から米作りの“基礎”まで。1年中が旬の真ん中、宮城県七ヶ宿町で農業体験&スローライフを楽しもう!【旧小学校宿泊付き】\n【着用レポ】腰が軽い!痛くない! 医療メーカーが作ったアシストスーツを農家が使ってみた\n農業の未来を支える現役農業女子と語り合う、農業の魅力と現場のリアル\n不知火(デコポン)が糖度26度超!? 『コーンコブミラクル』で農業維新が起こる!\n就農するなら富山!3年で面積を9倍に拡大した非農家出身の若手梨農家に話を聞いてみた\n## 新着記事\n急成長の食べチョク、生産者が広く参加しやすい環境づくりを推進「口下手な生産者も応援したい」\n日本の食料基地の物流問題 ドライバー不足対策の「最強のカード」とは\n漫画「宮崎に移住した農家の嫁日記」【第186話】ズッキーニの種まき\n採用は愛~自社分析とアピールでいい出会いをつくる話~\n【会員限定】リーキって長ネギとどう違う? 圧倒的に高く売れる西洋ネギ\n物流改善の打開策 「一貫パレチゼーション輸送」の現状と課題\n山梨県での就農に関心がある方必見!就農相談会を開催します!\n北海道の新参者が目指す「八百屋界のユニクロ」 売りは「楽しさと温かさ」\nイオンアグリ創造がシステムの見直しで作業効率アップ、「経営を担える人材」育成へ\n「農業も働きやすさ大切」、多様な人材が活躍できる職場に 女性が活躍する農業法人の挑戦", "perplexity": 33.81527761077504}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..714c3b7c8bd7d7052685fc31d598113b3549f616 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0119/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0119", + "rows_in": 45875, + "rows_dropped": 2, + "rows_out": 45873, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:09.694688+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/common_crawl_3_filtered_0120.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/common_crawl_3_filtered_0120.parquet new file mode 100644 index 0000000000000000000000000000000000000000..66f6880ee7958898af8cb96c63b4c3ccdd44e6eb --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/common_crawl_3_filtered_0120.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8399b304e8a6bacac6089538ab99fd15beef180899761d9d384b20d33c3a10da +size 109793952 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..18baf8827e30ba6548f3eeb796721a0929204b2f --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 25140, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://kaiga.site/c0015/coronavirus-work-from-home/", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 34733, "sha1": "5bc27a8c2b2c40acac1a1ae68da5a3c38e6303f5", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 20910, "reason": "exact_duplicate", "record": {"url": "https://www.hirose-dental-clinic.com/wishliste/index.php?id=140596", "content": "幅広い年代に愛される\n地域密着型の歯科医院です\nコミュニケーションを大切にし\n一人ひとりに合わせた治療提案\n患者様を笑顔にする\n痛くしない・やさしい丁寧な治療\n皆様は天然歯の大切さをご存知ですか?\n歯科クリニックは、この天然の歯に勝るものはないと思っております。\nそのため当院では、なるべく「削らない・抜かない」を実現するために予防歯科に力を入れております。また、止むを得ず治療をしなければならない時は、歯や歯茎に配慮した機器を用いることで痛みが少ない治療をめざしております。\n院長が介護福祉士でもあるので院内はもちろん、訪問診療においても高齢の方・障害をお持ちの方などにも配慮をした歯科診療を提供いたします。\n虫歯や歯周病の治療だけでなくその予防・定期的なメンテナンスを通して、生涯自分の歯でかむことが出来るように、また、義歯などでお困りのことが少しずつでも改善できるように皆様のお口のサポートをしていければと考えています。\n「保険診療」対応しています。\n初診時の費用は、\n健康保険3割負担適用でおよそ\n¥3,000〜¥5,000になります。\n当院では、診療環境をクリーンにすることと器具を徹底的に滅菌することで、院内感染予防対策をしております。\nさらに、紙コップ、紙エプロンなど可能な限りディスポーザブル品を使うことにより院内感染予防に取り組んでおります。\n従来のレントゲン画像は二次元であったため、正確な顎の骨の状態を把握することができませんでしたが、CTレントゲンは、 三次元での画像が得られ、従来の平面レントゲン画像に比べ、より豊富な情報を得る事ができます。\n当院の診療室は、メディカルライトエアーという医療用の高性能空気清浄器にて高精度でクリアな環境にする事が出来ます。また、個室の準備もありますので、安心して治療を受けることができます。", "perplexity": 12.245228786494772}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..94d850643ce2b258b2194226315c52967dbf64f6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0120/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0120", + "rows_in": 46080, + "rows_dropped": 2, + "rows_out": 46078, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:10.449560+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.6, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/common_crawl_3_filtered_0121.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/common_crawl_3_filtered_0121.parquet new file mode 100644 index 0000000000000000000000000000000000000000..b587fa424c0981e7214a5f96addbd1736a88badd --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/common_crawl_3_filtered_0121.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b6f96f2535dc68e63374b4258b98e8ca82cba9e066b17123b671a3f1dcd6c649 +size 109645939 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..d9ebe36ba909a53880cc7060861f217ff7e650dd --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 2618, "sha1": "a6a0ecd61ac8934c532a6c767dd82266d2b51b50", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0088", "kept_row_index": 9447, "reason": "exact_duplicate", "record": {"url": "http://garadama.net/haemorrhoid1561748.html", "content": "#### 刊行物のご案内\n#### 刊行物\n新型コロナウイルス感染症(COVID-19)による緊急事態宣言を受けて,8月認定委員会を8月28日(土)とさせていただいておりましたが,新型コロナウイルス感染症(COVID-19)急拡大により,委員会開催を\n「中止」とすることになりました。\n次回10月認定委員会(10月2日)の審査予定となります。\nご迷惑をおかけしますが,ご理解を賜りますようお願い申し上げます。\n参加・賛同学協会数は,339学協会となりました。\n本学会のメールサーバーの不具合により,以下の時間帯に学会宛に送られたメールを受信することができませんでした(宛先は,ドメインが@psych.or.jp のメールアドレス)。\n<メールを受信できなかった期間>2021年8月4日(水)11時頃-14時頃\nつきましては大変お手数をおかけしますが,この時間帯にメールを送信された方は,再送くださいますようお願い申し上げます。\n第41回日本看護科学学会学術集会において,日本看護科学学会・日本心理学会の共同企画シンポジウムを開催します。本シンポジウムのシンポジストを,学会員の方の中から公募します。\n詳細は,公募要項をご覧ください。\n新型コロナウイルス感染症(COVID-19)による緊急事態宣言を受けて,2021年8月7日(土)に予定しておりました認定委員会を\n8月28日(土)に延期することになりました。\n2021年7月2日にライブ配信で開催した日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ第1回 吉田寿夫・村井潤一郎(2021)「心理学的研究における重回帰分析の適用に関わる諸問題」心理学研究92巻のアーカイブ動画を公開しました。\n公開期間は,2021年9月8日までです。\n##### 日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ\n第1回 吉田寿夫・村井潤一郎(2021)「心理学的研究における重回帰分析の適用に関わる諸問題」心理学研究92巻(2021年7月2日)\nこのたび,新しいオンラインイベントのシリーズを開催することになりました。参加費無料・一般公開で,どなたでもご参加いただくことができます。\n詳細や参加申込は,本イベントのPeatixウェブサイトをご覧ください。\n##### 【アーカイブ公開・9月8日まで】日本心理学会YouTubeライブ・話題の論文について著者と語るシリーズ(第1回・2021年7月2日ライブ配信)\n発表申込締切は,5月28日(金)17時です。\n##### 公開シンポジウム「誰一人取り残さない」社会の実現のために:心理学者が考える「持続可能な開発目標(SDGs)」第1回「環境問題について考える」(オンデマンド)\n2021年度の日本心理学会公開シンポジウムは,オンライン(オンデマンドまたはライブ配信)にて実施いたします。 第1弾は,『「誰一人取り残さない」社会の実現のために:心理学者が考える「持続可能な開発目標(SDGs)」』(第1回「環境問題について考える」)です。\n動画はYouTubeで公開し,日本心理学会ホームページからもご覧いただけます。公開期間は,10月14日までです。\n##### 日本心理学会第85回大会の日程が決まりました(2021年9月1日(水)―8日(水),ウェブ開催,主催校:明星大学)\n大会参加・発表申込の受け付けは,4月中旬の開始を予定しております。詳細は,大会ホームページの公開後にあらためてご案内します。\n##### 日本心理学会・日本看護科学学会共同企画シンポジウム登壇者募集(応募締切2021年8月17日)\n##### 日本心理学会第85回大会発表申込締切の延長(6/4(金)17時)\n日本心理学会第85回大会の発表申込締切を,1週間延長しました。\n延長後の締切は,6月4日(金)17時です。再延長は行いません。発表ご予定の方は,必ず期限内にお申し込みください。\n##### 日本心理学会若手の会|大会参加費支援制度のご案内(締切6月12日)\n日本心理学会第85回大会で発表を予定している方を対象に,大会参加費を支援します。応募締切は,6月12日(土)23時59分です。資格や応募方法は,若手の会ホームページをご覧ください。\n##### 若手の会企画シンポジウム事前アンケート(回答締切5/20)\n日本心理学会若手の会による企画シンポ「これからの若手研究者の諸問題と対処法の共有・展望 (仮)」(第85回大会時)について,事前アンケートにぜひご協力ください。\nアンケート対象は,大学院生もしくはその修了時点から10年以内の方で,回答締切は5/20です。\n##### 研究会助成・災害復興助成・新型コロナウイルス関連助成の募集\n2021年度の研究会助成,災害復興助成,新型コロナウイルス関連助成の募集を公示しました。\n各申込締切は,研究会助成=5月7日(金)正午,災害復興助成・新型コロナウイルス関連助成=5月31日(月)正午(いずれも必着)です。\n※2021年度は国際会議旅費補助の募集を中止いたします。\n##### 第16回日本心理学会国際賞募集について\n第16回日本心理学会国際賞(特別賞・功労賞・奨励賞)の会員推薦と自薦による応募(奨励賞のみ)を受け付けております。締切は2021年1月12日(火)午前9時30分 (必着)です。詳細はこちらをご覧ください。\n##### 人文社会科学系学協会男女共同参画連絡会(GEAHSS) WGメンバーの募集\n人文社会科学系学協会男女共同参画連絡会(GEAHSS)は,調査WGならびにグッド・プラクティス・スキーム作成WGのメンバーを募集しております(締切2020年末)\n### 日本心理学会からの最新NEWS\n表示されない場合には、上記「日本心理学会 @jpa_psych」をクリックいただくか、", "perplexity": 14.025919746212585}} +{"row_index": 14620, "sha1": "7af08feaafa9e6a85d4bd05a3a5b6c0a223319cc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0063", "kept_row_index": 16257, "reason": "exact_duplicate", "record": {"url": "https://isr-messianic.org/agrarianize166374.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年11月21日(日),23日(祝火)/令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年11月28日(日)|大人の科学教室2「電子工作への誘い」~小鳥のさえずり発生器の製作~\n令和3年11月27日(土)|科学工作教室2「LEDを使った光のインテリア工作」\n## 動画配信\n## プロジェクト\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.413047996381188}} +{"row_index": 23774, "sha1": "7af08feaafa9e6a85d4bd05a3a5b6c0a223319cc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0063", "kept_row_index": 16257, "reason": "exact_duplicate", "record": {"url": "http://ko-gakusha.com/arytenoid1870974.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年11月21日(日),23日(祝火)/令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年11月28日(日)|大人の科学教室2「電子工作への誘い」~小鳥のさえずり発生器の製作~\n令和3年11月27日(土)|科学工作教室2「LEDを使った光のインテリア工作」\n## 動画配信\n## プロジェクト\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.413047996381188}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..8cbdbf24830a1d4917a9e3ea0dd87ba380302a41 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0121/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0121", + "rows_in": 46132, + "rows_dropped": 3, + "rows_out": 46129, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:09.999849+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 2.8, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/common_crawl_3_filtered_0122.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/common_crawl_3_filtered_0122.parquet new file mode 100644 index 0000000000000000000000000000000000000000..de83093f491dd6d0badeae9c3e65438cb60c9b00 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/common_crawl_3_filtered_0122.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d04d9376b6d91b0afb5b4d840b3ca87bee0d7921955cfd5e644a2496575dc0b7 +size 110660178 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..0b53b14b8b32f3c0621fae23444e7d48311488b3 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_removed.jsonl @@ -0,0 +1,6 @@ +{"row_index": 1014, "sha1": "458330798229770de8134c5958f1903101b9e691", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0058", "kept_row_index": 36836, "reason": "exact_duplicate", "record": {"url": "https://driversourceparts.com/bookkeeping779227.html", "content": "明けましておめでとうございます。\n一年近く休止しておりましたが、リニューアルして再開することになりました。\n新しいブログはこちらです。\n「シン・ワイン虎の穴」になります。\n全国的に記録的な寒波に覆われ、巷ではインフルエンザも大流行しているようですが、皆さまいかがお過ごしでしょうか\n私の周りでも、風邪やインフルエンザで続々と欠員が発生している状況ですが、私自身は毎晩アルコール消毒(晩酌ともいう)しているためか、風邪にかかる気配すらありません (・Д・)ノ\nさて、日本ソムリエ協会の会員の方であれば、配布されている機関誌により、今年の一般呼称資格試験一次試験の方式が大きく変わることはご存知かと思いますが、非会員で今年初めて受験される方のために、その概要をお伝えしようと思います。\n(※二次・三次試験、シニア呼称資格試験は、これまでと同様の方式となります)\nこれまでは、全国同じ日に、同じ時間で、同じ問題が出題されていた訳ですが、2018年度は『CBT方式』が導入され、7月20日~8月31日の43日間の任意の日・時間・会場で受験が出来ることになります。\n試験はパソコンで解答を入力してしていく方式で、出題も数千の問題からランダムに出題されますので、同じ会場で同じ日・同じ時間に受験しても、出題される問題は違うことになるようです。\nまた、受験も2回まで可能で、その場合、どちらか得点の高い方で合否が判定されることになります。\nなお、試験そのものの出願とは別に、一次試験の受験日時・会場のWeb出願が必須となりますので、注意が必要です。\n出願期間は、3月1日(木)~6月29日(金)となっておりますが、情報を早く入手するためにも、早めに出願することをおススメします\nちなみに、1回受験の場合の受験料(非会員)は25,440円で、2回受験は29,760円と、4千円ほどしか違わないため、多くの方が2回受験を選ぶことになると個人的には予想しております(少しでも受験料収入を増やそうという、ソムリエ協会の意図がロゼワインのように透けてみえると考えるのは私だけでしょうか・・・)。\n一般呼称資格試験につきましては、私も会社で受験者の方々のフォローを行っているため、続報が入り次第、またお伝えしていきたいと思います(^∇^)ノ", "perplexity": 13.986232274264376}} +{"row_index": 1890, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/sécurité-pour-Harnais-pour-Enfants-Ceinture-de-sécurité-Bracelet-bébé-Voyage-en-Harnais-de-s%C3%A9curit%C3%A9-89053/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} +{"row_index": 8625, "sha1": "b225d3f363d211d9cddf83cbce5fe6abc1399902", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0041", "kept_row_index": 45959, "reason": "exact_duplicate", "record": {"url": "http://theangusshow.com/KT/delimore/ib1443YY2yrh24756F.html", "content": "いきいき福祉会(八王子共立ビル3F)\n2005年設立された「いきいき福祉会」は当ビル3階に事務所を構えています。\n当会の目指すグループホームは「その人らしく豊かに活きる」ことです。\n地域に根をはり家族、地域へホームを開放し、開かれた施設を目指しています。\nまた、個別ケアを重視した医療との連携で安全な暮らしと自由な空間の両立をはかっています。\nそして、専門性が発揮でき、働き甲斐のある職員集団を確立してまいります。\n連携に必要不可欠な医療においては、同ビルの共立医療会があります。\n実績と連携を柱に、地域の方と一緒に介護施設をつくってまいります。\nけんせい歯科(八王子共立ビル4F)\n【診察室】\nユニット(治療台)数は7台で、現在のユニット台数と変わりませんが、ユニットのスペースを広くとり、車椅子などの利用がよりスムーズにできるようにしました。\n【個室のユニットの設置】\nインプラント治療などの小手術をより安全に行なえるよう個室のユニットを1台設置しました。\n【口腔外バキュームの設置】\n診療室で発生・飛散する粉塵などを吸引する口腔外バキュームを新たに各ユニットに設置し、スタッフや患者さんが安心して治療が受けられるよう診療室内のクリーン化をすすめます。\n【待合室】\n待合室が窓に面して明るくなり、広くゆったりとした待合室になります。子供が遊べるプレーコーナーや、歯科に関するいろいろな情報をいつでも閲覧できる図書コーナーを設置します。", "perplexity": 17.00314412789913}} +{"row_index": 36878, "sha1": "8af0234a74cbf734357129ecebc36aaa58921cf7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0045", "kept_row_index": 17030, "reason": "exact_duplicate", "record": {"url": "https://www.tridentcpmconsulting.com/magnetization109897.html", "content": "### 蓼科へ\nコロナが収まってきましたので、先月末、久々に蓼科に行ってきました。ここは子供達が小さい頃に何度も来ていますが、個人的にお気に入りの場所です。初日はまずロープウェイで北アルプスに登ります。ロープウェイ乗り場がここです。\n駐車場はガラガラです。周りは少し黄葉がイマイチの状態でしたが、楽しめます(写真は色味を出す為、チョット画像処理しすぎですが・・・)。\nロープウェイの楽しみは上下線のすれ違いです。対向車の赤色も中々感じが良いですね。\n周りを見ると、蓼科山も綺麗に映えていました。\n山頂には標高を示すキツツキさんがいます。ここの標高は2、200m以上です。ロープウェイの乗り場は1,700mですが、急に2,000mまで来ると、人によっては呼吸が苦しくなる方もいるようで、家人も周辺を歩くと少し苦しいと言ってました。\n前の日に雪が降ったとの事で、山頂の坪庭からみると、こんな風に山頂駅周辺には一面に雪があります。\n山頂駅に展望台がありますが、この日は空に雲がかかり、あまり周囲を見ることができませんでした。写真は望遠で撮影した蓼科湖です。\nロープウェイを降りて実際にここに行きしたが、山頂では見えなかった紅葉がとても映えている場所がありました。\nこんな風景を見れる秋は堪らず良いですね・・。この日は運転で疲れましたので、そのままホテルへ直行です(続く)。", "perplexity": 17.13722620559751}} +{"row_index": 41585, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://bloggingthedraft.com/betrinket1358622.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 41750, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Triangle-Ensembles-de-cuill%C3%A8res-doseuses-361526/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..d1ec8e0f4207715a4062beaa8fd5ad81c96881d1 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0122/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0122", + "rows_in": 45941, + "rows_dropped": 6, + "rows_out": 45935, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:10.588672+00:00", + "compression": "ZSTD", + "verified_sha1": 6, + "seconds": 3.4, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/common_crawl_3_filtered_0123.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/common_crawl_3_filtered_0123.parquet new file mode 100644 index 0000000000000000000000000000000000000000..1632139e2e664fb03074a3d7d0daf37f5ba5c180 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/common_crawl_3_filtered_0123.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:35b0d9615a306c14b837e9843cc275b55c64b22154bd7e3346482070689f5223 +size 108321202 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..cca9a972e5d8836d342bae813cf73a103be71f1a --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_removed.jsonl @@ -0,0 +1,8 @@ +{"row_index": 2885, "sha1": "2d5228f2007b22b4335c4da6fcf0288db283abfc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 27505, "reason": "exact_duplicate", "record": {"url": "http://shuccho.biz/homefelt5004642.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\nお知らせ段ブロック迷路に鏡の通路を設置しました\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.4629146532851}} +{"row_index": 4855, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "https://collegeprofessor.com/bushcraft5927402.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.335650491062793}} +{"row_index": 8078, "sha1": "20c74ac4876aa80ae4c3c6c00825e6c56a456299", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0043", "kept_row_index": 37929, "reason": "exact_duplicate", "record": {"url": "http://www.katieslockets.com/capsuliform2465739.html", "content": "## もっと神戸電子を\n知りたい方へ\n神戸電子をもっと知っていただくための資料の配布やオープンキャンパスを開催しています。\n## 神戸電子からの\nニュース&トピックス\n学校からのお知らせやオープンキャンパスなどのイベント情報をお知らせします。\n2021.10.1現在 本校の教育運営等活動指針\nレベル2(活動指針の詳細PDF)\n日本で最も歴史あるIT系専門学校で、\n数多くの卒業生が活躍しています。\n## 神戸電子で学べる19学科について未来へ生き抜く力\n「技術力」と「創造力」。\n技術力と創造力を大切にした教育で、\n未来を生き抜く人に。\n-\n## 「アイディア」を\nカタチにできる「技術力」を\n技術力を育む専門教育とさまざま人たちと協働し新たな価値を生み出す共創教育を通じて、\n「技術力」と「創造力」を兼ね備えた専門職業人を育成します。\n## 新しい価値への創造力と\n伝えるコミュニケーション\n現場経験豊富な教員が専門知識と技術を伝授。\n「聞く・見る・話す」の感性を養うコミュニケーション能力を身につけ、新しい価値を見出す創造力が、あなたの未来を切り拓く!\n## プロと同等の即戦力の環境で\n磨かれる技術力と創造力\nスタジオや設備等、在学中からプロと同等の「仕事」ができる環境を用意。\n多くの有名企業がセミナーを開催し、プロとしての意識作りや技術を伝え、即戦力として活躍!\n## 卒業生の結束力\n繋がりと活躍の現在\n繋がりを大切にする神戸電子は卒業後も同窓会やコミュニティーで友の輪を広げている。\nそして社会人としての繋がりを作り、会社では即戦力として大活躍!\n### 就職・資格に強い神戸電子\n卒業後を見据えた基礎・専門・実務経験の\n3段階教育により約90%以上の正規雇用を実現。\n就職・資格について\n### 最強の業界連携\n業界との繋がりが強い神戸電子だから\n### 募集要項・学費・選考方法\n長年多くの優秀な学生を世の中へ送り出しています。\n募集要項や選考方法など入学に関する案内はこちら\n入学案内について\n留学生 向け 学校案内 留学生 向けの 神戸 電子 専 門 学校の 学校 案内です。", "perplexity": 25.00032545280468}} +{"row_index": 11178, "sha1": "3f322bcb646e1c8bd4a789c6f0f9cf7119071546", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0053", "kept_row_index": 33898, "reason": "exact_duplicate", "record": {"url": "http://beta.trippermap.com/farrand507877.html", "content": "「一般社団法人 M&A仲介協会」 設立・理事就任のお知らせ\n## 価値を繋ぎ、 発展を導く。\nオンデックは2005年の創業以来、一貫して\nM&A支援事業に特化して経験を積み上げてきました。\n数少ない中小企業M&Aのパイオニアのひとりとして、\n今後もM&A市場の健全な発展に尽力し、\nM&Aを活用する企業に、確かな価値を提供していきます。\nオンデックの姿勢\n### 「M&Aの本質的意義=企業の成長の\n実現」に\n徹底的にこだわります。\nオンデックは、M&Aの本質的意義である企業の成長を実現するため、\n常にベストを追求します。対象企業への理解を深め、M&Aの実行に際して重視すべき\n論点とその対策の整理に始まり、両社の企業価値を最大化しうる相手方の探索から\n最適なスキームの立案・実行まで、「企業の成長の実現」を第一義に掲げたスタンスのもとに、\nすべてのプロセスを総合的に支援します。\n### 創業者、経営者、親族、社員。\n「人」の想いと歴史を重視します。\nオンデックは、企業に関わる「人」の想いや歴史を中心に据えたアドバイザリーを追求します。\n中小企業では、社員一人ひとりの果たしている役割が非常に幅広く、そして多彩です。\n大企業ほど組織化・システム化が進んでいない部分を「人」の力で補っている、即ち中小企業の根幹を支えているのは「人」です。\nだからこそ関係者それぞれの想いや企業として育んできた歴史・文化を理解し、尊重することを欠かしません。\n### 常に「4つのステークホルダー」への\n配慮を欠かさず推進します。\n中小企業のM&Aで最もオーソドックスな株式譲渡の場合、「株主」のみがフォーカスされがちです。\nオンデックは、常に全体を俯瞰し、「株主」、「経営者」、「社員」、「取引先」、4つのステークホルダー\nそれぞれの立場や事情にも十分配慮したコンサルティングを行います。\n### 当事者意識をもった\n実践家集団であることを志向します。\nオンデックは、自らが当事者の視点をもって業務にあたり、M&Aを完遂することを志向します。\n自分が「この会社を譲渡するなら」、「譲り受けるなら」という視点を欠かさないからこそ、\nM&A実行後の事業の成長を最優先し、将来を見据えた検討や課題整理の完遂が可能と考えます。\n### 事業視点を重視した\nコンサルティングを追求します。\nM&Aの実行には、会計・税務・法務など多岐にわたる専門的見地からの検討が必要です。\nオンデックは、これらの専門的検討・助言に加え、見過ごされがちな「事業視点・経営視点」に立脚した\nコンサルティングを重視し、M&Aを企業価値と相互の経済的メリットの最大化へとつなげていきます。\nオンデックの特徴と強み\n中小企業M&Aの領域では、「お相手となる買収企業を探す」という「マッチング」機能のみを重視した\n支援企業が多数を占めていますが、マッチングはM&Aのごく一部の要素にしか過ぎません。\nオンデックがこだわるのは、あくまで顧客にベストの結果を提供しうる「総合力」です。\n分析・理解、提案、論点整理、企業価値評価、立案・実行、プロジェクトマネジメント、\nそして共感力から構成される、総合的なサポート品質を強みとして磨き続けます。\nオンデックのM&Aサービス\nオンデックは顧客の企業価値を最大化するM&Aの実現を支援するため、その総合力を駆使し、\n案件の組成からクロージングに至るまでのすべての工程について、丁寧に、細やかにサービスを提供します。\nここでは、最も得意とする、事業承継型M&Aによる後継者問題の解決、イグジット型M&Aによる創業者の投資回収、\nそれらのノウハウを生かしたMBO支援についてご案内いたします。\nビジネスを支援するコンテンツ\nセミナー&イベント\n### 《終了》8月25日(水) 野村證券主催「事業承継型M&Aセミナー ~コロナ禍は事業承継M&Aにどう影響するか」(WEB)\nお知らせ\n中小企業庁「M&A支援機関に係る登録制度」への登録完了のお知らせ\n大阪本社 移転のお知らせ\n弊社代表が登壇した日経 事業承継・M&Aセミナー(2021年7月16日開催)のアーカイブ配信が開始されました\nサービス説明動画を公開しました\n東京マーケットワイド「新規上場企業トップインタビュー」に弊社代表の久保が出演しました", "perplexity": 14.619728051120278}} +{"row_index": 14259, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Glas-&-Glasbausteine-194795-St%C3%BCck-Moniereisen-Baustahl-B500NR-rostfrei.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 17731, "sha1": "2d5228f2007b22b4335c4da6fcf0288db283abfc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 27505, "reason": "exact_duplicate", "record": {"url": "http://www.mohnkern.com/electrocataphoretic3988413.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\nお知らせ段ブロック迷路に鏡の通路を設置しました\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.4629146532851}} +{"row_index": 23813, "sha1": "c184d6c860ccdacd6d429feb898160ef97f65595", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0012", "kept_row_index": 4678, "reason": "exact_duplicate", "record": {"url": "https://dinarexchange.net/divorceable702555.html", "content": "## 新着記事・新着コラム\nわんちゃんの情報が詰まった新着の記事\n意外と知らない!犬の『毛色が変わる』理由6つ\n『犬の毛色が変わる理由』についてまとめました。どのように変化するのか、毛色が変わるタイミング、病気の有無、毛色が変わった時の対処法など解説します。\n- Sarang\n寝る前に可愛い行動をするラブラドールレトリバーちゃん\nラブラドールレトリバーの“きなこ”ちゃんは、寝る前に布団にいる飼い主さん達の前で可愛すぎる行動を起こしてくれるようなんです!\n- Rin凛\nお友達の家でキャンプごっこを堪能するチワワちゃん\nお友達の家でお泊まり会。本日はテントの中で寝るそうです。ドキドキ、ワクワクな初体験!いったいどうなるのでしょうか?\n- つぐにゃん\n愛犬の耳臭は「外耳炎」の可能性も!愛犬の耳ケアの方法を徹底解説します\nペットフード協会の令和 2 年「全国犬猫飼育実態調査」によると、現在のコロナ禍により在宅時間が増えたことで 、2019 年に比べて 2020 年の犬・猫の新規飼育数が 114 %・ 116 %増加。室内飼育数が全体の80...\n- 伊藤誉英\n犬を不安にしてしまう『絶対NG行為』3選!正しいケア方法は?\n飼い主の後ろをついてまわったり、外出用のバッグに入ってみたり、可愛い犬の行動は目が離せなくなります。人懐っこさが犬の良さではありますが、視界から飼い主がいなくなっただけで落ち着きをなくしていた...\n- _ayu.0629_\n気づいてあげたい!愛犬が『いじけてる』時の仕草5選\n『愛犬がいじけてる時の仕草』についてまとめました。無理に構うことはせず、放っておいた方がよいこともあります。犬がいじける理由、犬がいじけた時の対処法など解説します。\nかわうそちわわ。【その404】「クラスで有名な猫好きえっちゃん」\n【...★火曜・金曜更新★...】カワウソに似てるチワワの愛犬フィーユと、そんなフィーユが大好きな家族の毎日を、面白おかしく漫画にしています♪ 今回はえっちゃんが誇らしげに話したフィーユの自慢話です。\n- いおり\n犬についての科学的研究がもたらすものと今後の課題とは?\n犬に関する研究は増え続けていますが、それらは具体的に何の役に立つのでしょうか?獣医科学の研究者たちが、犬の研究の社会的役割や展望について報告レポートを発表しました。\n- 雁秋生\n保護子猫7匹の面倒をみる元保護犬のラブラドール!優しく見守る姿にほっこり\n動物保護施設にやってきた7匹の子猫。動物看護師さんのお手伝いをしたのは、ラブラドールのくんでした。心温まる犬と猫の交流をご紹介します。\n- m&m\n犬が自分を舐める心理6選!病気やケガをしている可能性も?\n犬は人の顔や手をペロペロ舐めることがありますが、自分の足や体を舐めることもあります。犬が人を舐めるときは甘えや愛情表現であることが多いですが、自分を舐めるときはどのような心理が隠されているので...\n- yuzu\n犬にとって良い『サービス』12選!思わず驚いてしまう意外なものまで\n空前のペットブームにつき、愛犬家向けのサービスが続々と誕生しているのをご存知ですか?今回は「こんなものまで?!」と思わず驚く、犬にとって良いサービス12選をご紹介します!\n- ラー子\nおやすみ前のまったり読書タイムをわちゃわちゃ応援ポメコンビ♡\n読書タイムに乱入してくるポメラニアンコンビが可愛すぎるとTwitterで話題になっています。飼い主さんの持つ本に嫉妬?それとも一緒に本が読みたい?\n- snow\nうちの王様にはどうしても抗えない【第115話】「おやつがもらえるなら」\n我が家の王様、ミックス犬(ポメラニアン×ボロニーズ)バンビの素晴らしき日々。見た目は天使、中身は暴君な王に毎日虐げられています。今回は反応がいいバンビのお話。\n- 篁ヨーコ\n家庭菜園収穫祭♡食べる?食べない?飼い主さんVSふわもこワンコ\n家庭菜園で収穫したプチトマトときゅうりを試食!ビションフリーゼぽんくんの反応は...?\n- nono\n突然芽生えた頭の葉っぱ♡シーズーさんに舞い降りた散歩中の出来事\n散歩中に芽生えた頭の葉っぱ!お茶目なパパさんからの贈り物のようです。\n犬の『目を見つめる』のはNGだった?3つの理由\n犬が好きな人は、可愛い顔を見るためについ犬の目を見つめてしまうことがあると思います。しかし、犬の目を見つめることは関係性や状況次第ではNGとされているので注意が必要です。\n- いろは\n愛犬を気遣いたい!犬にとって『危険な床』4選\nあまり意識していない飼い主さんもいるかもしれませんが、室内で暮らす犬の体にとって、床の質はとても重要なポイントです。ここでは、犬にとって危険な床について解説します。\n【保護】いつだって妹子猫を優先♡ラブの深い愛に感動!\n野良子猫のSOSに応えたラブラドールレトリバーさんの深い深い愛に感動...!保護後の愛溢れる暮らしをご覧ください。\n- ayano\nメントスコーラ初体験のトイプードル!反応はいかに!?\nメントスコーラを試してみることになったトイプードルの三桜ちゃんと虎太郎くん。ワクワクしながら見守っていますが、果たして!どんな反応を見せてくれるのでしょうか?\n完全無添加ペットフード「ローローペットフーズ」についてのレビュー\n犬にとって、食事はお散歩と同じくらい楽しみなことの一つ。人間が毎日同じ味付けに飽きるように、犬だって毎日同じメニューでは飽きてしまいます。我が家では、味に飽きてくる頃に犬用に調理された肉や野菜...\n- のんたん\n犬は人の顔を覚えているの?その判断基準3つとは\nこの記事では、「犬は人の顔を覚えているの?その判断基準3つとは」をテーマに、ワンちゃんが人の顔を覚えている場合の判断基準をいくつか紹介します。ぜひ、参考にしてみてくださいね。\n- ミニレッキス\n犬が『イライラ』してしまう飼い主の行為3選\n『犬がイライラしてしまう飼い主の行為』についてまとめました。なぜその行為が犬をイライラさせてしまうののか、イライラしている時の犬の態度や仕草など解説します。\n犬と暮らせば【第231話】「因果関係」\n【...★月曜・木曜更新★...】ある日、不思議な地球生物「イヌ」と出会い、それまでの暮らしも価値観も何もかも変わった私。エマは歯磨きが苦手です。歯磨きが好きな子っているのかな〜?え?ご褒美?もちろん用意...\n- おおうちまりこ\nコロナ禍の後、外出自粛や在宅勤務が無くなる時の愛犬への対応方法\nコロナ禍で飼い主が家にいる時間が増えたものの、また以前の生活に戻る時犬たちにも影響があることは必至です。犬を不安にさせないためにどのようなことに気をつけると良いのでしょうか。\n狭い囲いの中に放置された犬!救出され初めて知った家族との時間を満喫!\n3歳になるまで金網の囲いの中に放置されていた犬を、動物愛護団体のメンバーが継続的に訪問しては、愛情を与えていました。ついに解放された時、犬はまっすぐに新しい家族の中に飛び込むことができました。\n- ひろこ\n犬が『捨てられた』と感じてしまう5つの行為\n愛犬には全力で愛情を注いであげたい...そう思う飼い主さんは多いでしょう。しかし、飼い主の行動によっては、犬が「捨てられた」と勘違いしてしまうことも...。今回は、犬が「捨てられた」と感じてしまう行為に...\n- しおり\n犬が吠えている時にしてはいけない『NG行為』3選\n犬のお悩み上位にランクインするものといえば、無駄吠えではないでしょうか。犬の本能的な行動だと知っていても、しつけをしなくてはいけない身としては大変ですよね。今回はより無駄吠えを助長してしまうNG...\n「狼犬顔負け」遠吠えを披露するチワワさんが可愛すぎると話題\n「アゥォ~ン!」遠吠えとは無縁と思われるチワワさんの遠吠えがTwitterで話題になっています。感度良好?!こんなにかわいい遠吠えはなかなか聞けるものじゃない!\nふわふわぽこ。【第114話】「ご都合解釈」\n【...★毎週日曜更新★...】ふわふわした性格のトイプードルの′′ぽこ”は、家族の中心の癒し系わんこ♪そんなぽこが主役のほのぼの漫画です。今回は何気なく名前を呼んだら詰んでしまったお話です♪\n- きほこ\n『よくできたね!』豆柴パピーのトイトレ成功に大歓喜♡\n豆柴ファミリーの長女ちゃんがトイレトレーニングに挑戦!見守るヒナタママの姿に思わず胸がキュンとなる...!幸せ時間をご覧ください。\nどうしても鼻を出したいコーギーちゃんがかわいい件\nモナちゃんはサークルの柵と柵の間からお鼻を出すのが大好き。顔が大変なことになろうと、気にせず鼻を突っ込みます。この体勢が楽なのでしょうか?\nあるある?犬が『おしっこした後の行動』4選\n『犬がおしっこした後によくする行動』についてまとめました。その行動の意味や犬の心理、やめさせた方がいいかどうかについて解説します。\n室内犬ならではの『ストレス4選!部屋飼いゆえに与えてしまう理由とは\n知らずしらずのうちに蓄積しているストレス。人と同じように、犬もストレスを感じるのはみなさんご存じかと思います。今回は、室内で飼う犬ならではの、ストレスの原因にフォーカスし、その理由について4選を...\n- 岩井 ゆかり\n動物病院の玄関マットの上が定位置な秋田犬くん\n今日は動物病院にやってきました。いつもは外で待機ですが、人が少ない時は待合室で待つそうです。そんな時のゆうきくんの定位置は...なんと、玄関マットの上!\nホースの水に果敢にチャレンジするシベリアンハスキーくん!\n屋上にホースを設置したので、水遊びを楽しめるようになりました。早速、試してみる事に!シベリアンハスキー文太くんは、どんなかわいい表情を見せてくれるのでしょうか?\n犬が見ている世界ってどんな感じ?5つの特徴や見え方を解説\n犬の視力が悪いという話は有名ですが、実際、犬が見ている世界はどのような感じなのでしょうか。気になったことはありませんか。今回は犬が見ている世界の特徴や見え方について解説していきます。\n愛犬とのふれあいで生まれる幸せホルモン『オキシトシン』!シーン別にみる3つの効果\n犬とふれあうことでほっとする、心が穏やかになる、癒されるといった経験をされた方も多いのではないでしょうか。この犬たちとのふれあいはなぜこんなに私たちを癒してくれるのか、それは幸せホルモンと呼ば...\n- k-aoi\n犬が『おもちゃをくわえて歩き回る』ときの心理6選!\n『犬がおもちゃをくわえて歩き回るときの心理』についてまとめました。口から放そうとすると素直に渡してくれることもありますし、唸り声を上げて怒ることもあります。\n咬傷犬をレスキュー!『人間は敵じゃない』3ヵ月が経過した現在の姿に涙\n保護団体『ピースワンコ・ジャパン』に保護された1頭の咬傷犬。一度でも人を噛んでしまうとレッテルを貼られ殺処分対象となってしまう命...明るく輝き始めた現在の姿に思わず涙が溢れます。\n犬が「愛情不足な時」にする行動3選\nこの記事では「犬が「愛情不足な時」にする行動3選」をテーマに、ワンちゃんの愛情が足りていない時にしがちな行動をいくつか紹介します。ぜひ、参考にしてみてくださいね。\n犬が『トイレで寝る』5つの心理とは?注意すべきことまで解説\n皆さんの愛犬はなぜかトイレで寝てしまっていることはありませんか。犬がトイレで寝るという行為は、一般的にあまり見られない光景ですが、ある理由によってトイレを寝床として選んでしまうことがあります。...\n「ズリッ!」足を踏み外して焦るイッヌのリアクションに腹筋崩壊\n「お、落ちてないワン!」お茶目な姿を披露してくれた柴犬さんがTwitterで話題になっています。思わずドジをやらかしちゃった!柴犬さんのリアクションに注目必至です。\nただの犬好きです。【第124話】「続・ぬいぐるみクッション」\n【...★毎週土曜更新★...】遠距離中の実家の愛犬「ポンタ」との日常と、これまでに出会ったワンコとの出来事など、広く・浅く・ゆるく描いております。今回は前話のつづきです。\n- MIMI\nベビーフェイスを気取った小悪魔チワワ×チワックスのおねだり\n可愛い表情でおねだりするチワワ×チワックスVS見事に手玉にとられてしまう飼い主さん\n手作りのささみジャーキーに心躍るボストンテリアちゃん\nパパとママがハムちゃんのために手作りでささみジャーキーを作ってくれました。意外と簡単で、オーブンがあれば作ることができます。ハムちゃんも出来上がるのを心待ちにしていました。食いしん坊のハムちゃ...\n- まぁち\n犬が『臆病な性格』になってしまうNG生活習慣4選\n『犬が臆病な性格になってしまうNG生活習慣』についてまとめました。飼い主の態度や行動が愛犬を臆病な性格に変えてしまうことがあります。\n実は犬の健康にも良い『はちみつ』!3つの効果やNGな与え方とは\n健康や美容への効果があるとされる、はちみつ。古くから健康食材として親しまれてきました。殺菌効果があるとされ、のど飴などに使われることもありますね。このように、人にとっては積極的に摂取したい食品...\n5匹の中で唯一の男の子!隊長くんについてのご紹介\n5匹のワンコたちの中で唯一の男の子です。隊長は落ち着きがないけれど、いつもニコニコしているのんびり屋さんな男の子です。女の子だらけの中でもたくましく存在感を示しています。娘の八丁目とはどうやって...\n甘栗大好きなフレブルちゃん。勘違いしてドングリを食べようとしちゃった!\n広い公園に遊びにきたこうめちゃん。ご褒美の甘栗をもらって大満足!さて一休みしたことだし、もう一歩きしようか!と、思っていたら地面に甘栗が?\n犬の『里親になってはいけない人』の特徴4選!飼う前に必ず知っておきたいこと\n犬を飼う際に、里親になるという選択肢があることも徐々に知られるようになってきました。この記事では、保護犬を引き受けて里親になるために、必ず知っておくべきことをご紹介します。", "perplexity": 22.852833224863417}} +{"row_index": 26360, "sha1": "b22b18b5e866966998dbf1d0929dc98b48abf29e", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0066", "kept_row_index": 8666, "reason": "exact_duplicate", "record": {"url": "https://eibun-copywriter.com/gimcracky876452.html", "content": "この記事はイギリスの作家についてです。アリスメアリーノートン生まれのアメリカ人作家については、アンドレノートンを参照してください。その他の使用法については、メアリーノートンを参照してください。 メアリーノートンメアリーノートン生まれキャスリーンメアリーピアソン(1903-12-10)1903年12月10日ロンドン、イギリス、イギリス死亡しました1992年8月29日(1992-08-29) (88歳)ビデフォード、デボン、イングランド、英国職業作家国籍英国人ジャンル子供のファンタジー小説注目の作品 借り手 シリーズ マジックベッドノブ ベッドかざりとほうき 注目すべき賞カーネギー賞 1952 キャスリーンメアリーノートン (ニーピアソン、1903年12月10日– 1992年8月29日)、専門的には メアリーノートン、児童書の英語の著者でした。彼女はで最もよく知られています 借り手 最初の本にちなんで名付けられた一連のローファンタジー小説(1952年から1982年)、そして今度は現代の人間文明の真っ只中に密かに住んでいる小さな人々。 ノートンは、1952年に図書館協会からカーネギー賞を受賞しました。 借り手 英国の作家による今年の傑出した児童書として。 2007年のメダル70周年を記念して、これは最優秀賞の上位10作品のひとつに選ばれ、これまでのお気に入りの公選の投票用紙を作成するためにパ (\n## 知ってますか ...\n潮風 1990年にフロリダ州マイアミを離れる。 歴史 名前: 1958–1983: フェデリコC。 1983: ロワイヤル 1983–1988: スターシップロワイヤル 1988–2000: 潮風 オーナー: 1958–1983:コスタクルーズ 1983–2000:プレミアクルーズ オペレーター: 1958–1983:コスタクルーズ 1983–1988:プレミアクルーズライン 1988–1997:イルカクルーズライン 1997〜 2000年:プレミアクルーズライン レジストリのポート: パナマビルダー: ジオ。アンサルド&C。、セストリポネンテ、イタリア発売: 1957年3月31日完了: 1958稼働中: 1958年3月故障中: 2000年9月修理: 1989識別:IMO番号:5113230運命: 沈没 一般的な特性 トン数: 21,000 GT長さ: 605フィート(184.4 m)ビーム: 79フィート(24.1 m)深さ: 8.6 m(28.2フィート)デッキ: 9推進: 2つのDeLaval蒸気タービン 44,500 kW(59,700 hp)(合計) 速度: 21ノット(39 km / h; 24 mph)容量: 840人の乗客クルー: 400 SS 潮風 は、クルーズの途中で乗客が降ろされ、ハリファックス港で逮捕されたときに話題になったクルーズ船でした。その後、船は3か月後 (\n## ニュースで\nラサール芸術大学タイプ公的資金による設立1984大統領学生2,700ロケーション1マクナリーストリート, シンガポールキャンパスマクナリーキャンパス、ウィンステットキャンパスニックネームラサール所属ロンドン大学ゴールドスミス校ウェブサイトlasalle.芸術大学 (非公式に ラサール)は、シンガポールの高等教育機関である公立の芸術およびデザイン機関です。 1984年に設立されたLASALLEには、現代美術とデザイン教育の30以上の卒業証書、学部および大学院プログラムを提供する8つのアートおよびデザインスクールがあります。 LASALLEの学士号と修士号は、芸術と人文科学の世界有数の大学の1つであるロンドン大学ゴールドスミスカレッジによって検証されています。 シンガポールのアートシーンの多くのリーダ (\n## この日に\n見せしめ裁判と混同しないでください。 「模擬裁判」はここにリダイレクトします。 1910年のカードゲームについては、模擬裁判(カードゲーム)を参照してください。 この記事の例と展望 主に米国と取引し、主題の世界的な見解を表すものではありません. してもいいです この記事を改善する、必要に応じて、トークページで問題について話し合うか、新しい記事を作成します。 (2019年11月) (このテンプレートメッセージを削除する方法とタイミングを確認してください) 模擬試験により、研究者は現実的な設定で確証バイアスを調べることができます A 模擬裁判 行為または模倣の裁判です。これは法廷に似ていますが、模擬裁判は下級裁判所の裁判をシミュレートし、法廷は上訴裁判所の公聴会をシミュレートします。実際の裁 (\n## その日の絵\n垂直または急傾斜のラングまたはステップのセット その他の使用法については、ラダー(曖昧さ回避)を参照してください。 「ステップラダー」はここにリダイレクトします。 Teddy GeigerによるEPについては、Step Ladder(EP)を参照してください。 はしご延長 A はしご ラングまたはステップの垂直または傾斜したセットです。 自立型または壁などの垂直面に立てかけることができる剛性のはしごと、ロープやアルミニウム製などの回転可能なはしごを上から吊るすことができるものの2つのタイプがあります。はしごの垂直部材は、ストリンガーまたはレール(米国)またはスタイル(英国)と呼ばれます。 硬いはしごは通常持ち運び可能ですが、一部のタイプは構造物、建物、または機器に恒久的に固定されています。それらは一般的に金属、木、またはガラス繊維でできていますが、丈夫なプラスチックでできていることが知られています。 内容 1 過去の使用法 2 バリエーション 2.1 はしご 2.2 柔軟なはしご 3 用途 4 安全性 5 はしごクラス 6 社会と文化 7 イメージギャラリー 8 も参照してください 9 参考文献 10 外部リンク 過去の使用法 はしごは古代の道具と技術です。スペインのバレンシアにある蜘蛛の洞窟に描かれている、少なくとも10、000年前の中石器時代の岩絵にはしごが描かれています。この絵は (", "perplexity": 13.609744581139859}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..cef9d6cf67818a529afe9c5dbae8a73d38f064d5 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0123/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0123", + "rows_in": 45736, + "rows_dropped": 8, + "rows_out": 45728, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:10.729462+00:00", + "compression": "ZSTD", + "verified_sha1": 8, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/common_crawl_3_filtered_0124.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/common_crawl_3_filtered_0124.parquet new file mode 100644 index 0000000000000000000000000000000000000000..016892c491d4c91e94e5d1886d0a6e0d58efaf96 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/common_crawl_3_filtered_0124.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f106127cefcef97d3a1547f1c387df1f3e449fac11b4a2720dec683644b35907 +size 108032336 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..0f36000d3ef55afd5b835ea4093d36de83ff7fb5 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 9990, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "https://asdemo.awesomesupport.com/Lawton/benorth2169963.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 31897, "sha1": "2111bae5439e4fcf294980caa0cdc5921593cae7", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0052", "kept_row_index": 23023, "reason": "exact_duplicate", "record": {"url": "https://corestix.com/blog-date-201105.html", "content": "- 大雄会は97周年を迎えました ー100年のその先へ\n- 新型コロナウイルスへの対応について\n- 【新型コロナワクチン接種】一般の方へ\n- 大雄会クリニック・総合大雄会病院・大雄会第一病院では、Free Wi-Fiのご利用が可能です\n- 【総合大雄会病院・大雄会第一病院】「ネット面会」サービスのご案内\n- 【産科】当院で分娩予定の患者さま・当院での出産をお考えの方へ\n- 【感染症対策】皆さまの安心への取り組み\n- 検査のみは受け付けていません。感染を疑う方は「受診・相談センター」へご連絡ください。\n- 面会禁止のお願い\n-\n紹介状をお持ちでない方\n紹介状をお持ちの方\n### 紹介外来\n大雄会クリニックと大雄会第一病院は、紹介状をお持ちでなくても選定療養費(5,500円・税込)はかかりません\n※大病院に紹介状なしで、初めて受診するとかかる費用\n## 24時間365日救急車を\n受け入れています。\n総合大雄会病院の救命救急センターは、愛知県指定の第三次救急医療施設として、救急搬送された方や、重症で専門的な治療が必要な患者さまを救急の専門医が中心となり迅速に対応します。救命救急センターについて\n詳しくはこちら\n大雄会は一宮市を拠点とする社会医療法人です。愛知県で最初に認定された民間総合病院である総合大雄会病院や、大雄会第一病院、大雄会クリニック、ルーセントクリニック、老人保健施設アウンを運営しており、地域全体で患者さまの健康を守る「地域医療」に貢献します。", "perplexity": 24.519586292567688}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..9b140d64b4885015f513806017349dd116277462 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0124/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0124", + "rows_in": 45764, + "rows_dropped": 2, + "rows_out": 45762, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:12.172033+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/common_crawl_3_filtered_0125.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/common_crawl_3_filtered_0125.parquet new file mode 100644 index 0000000000000000000000000000000000000000..4521e2b640069cd85c76b03c6ff1831764654b01 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/common_crawl_3_filtered_0125.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1319cc21adfca363578c2bad039693cbc4c92e16c165e9cd47c7af709edf8f41 +size 110083181 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..0be9c1127e2f98fee3e8b70cb16bd238e2a7593c --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 5498, "sha1": "c13d39f31a5d2ff484c935c90b4cad4eafc32fe2", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0091", "kept_row_index": 16629, "reason": "exact_duplicate", "record": {"url": "http://ryumoto.com/goods/mizukusa/post-2.html", "content": "${returnDuration(178)}\n歴史に名を刻んだレジェンドたち アレクサンドル・カレリン 霊長類最強といわれた男オリンピックチャンネル\n${returnDuration(156)}\n“日清食品カップ”小学生陸上競技交流大会 2021都道府県大会ダイジェスト動画日本陸上競技連盟\n${returnDuration(69)}\n“日清食品カップ”第37回全国小学生陸上競技交流大会 応援動画日本陸上競技連盟\n${returnDuration(27)}\n体操は「究極」のスポーツテレビ朝日\n${item.name}\n${item.array[0].text}\n森田前知事、ラジオ収録に森元首相招き対談 五輪・パラ話題に産経新聞\nパ・リーグ新人王は大本命・宮城大弥だが...「伊藤大海の活躍次第で大逆転も」の声が週刊ベースボールONLINE\n“モテ男”小澤征悦の結婚、NHK桑子アナが小澤家に気に入られた理由 関係者が明かすノリの良さとマメな性格デイリー新潮\nブロウバーグ「61」で独走態勢に ツアー2勝目に王手my caddie\nズベレフ「光栄」 4大会連続でレーバー杯出場へ<男子テニス>tennis365.net\n中国の若者には狂信的な国家主義者がそんなに多いのか【江上剛コラム】時事通信\n松山英樹は32位後退 ツアー未勝利の2人が首位、ミケルソンは4差9位my caddie\n東京五輪男子マラソン6位の大迫傑さんが小中学生指導 福島県いわき市でオンラインイベント 相沢晃選手がゲスト出演福島民報\n中国が本気で倒しに来た 卓球女子・馬場美香監督に聞く時事通信\nパラ開会式、制作は「運命」だった 演出のウォーリー木下さんインタビュー47NEWS\n奥原希望、五輪での「答え合わせ」を回顧 変化の5年、敗戦の要因、新方程式の模索平野貴也\nスポーツナビアプリ限定\nコロナ禍での東京パラリンピックが閉幕 ボランティアも感染対策に尽力スポーツナビ\n車いすバスケ“うれし悔しい”銀メダル 土台の上にあった覚醒、3年後は頂点へスポーツナビ\nバド杉野明子、大ケガ乗り越えつかんだ銅 メダルが最高の回復薬 最終日もう1個へスポーツナビ\n起用に応えた古澤の“初スリーポイント” 車いすバスケ、日本一丸で頂点へあと1つスポーツナビ\nベテラン記者が見た東京パラとこれから 閉幕後は縮小覚悟も「面白さ感じて」スポーツナビ\n“MVP”鳥海の裏で支えるベテラン2人 車いすバスケの躍進に、若手への信頼感スポーツナビ\n東京パラをブラサカ界の“フランスW杯”に メダルならずも、代え難い大きな経験スポーツナビ\n車いすバスケ、守りの軸となる鳥海連志 “異次元のスタッツ”だけではない神髄スポーツナビ\n加納慎太郎、初のパラ挑戦はほろ苦く......「何も考えていない」に感じた新たな挑戦スポーツナビ\nラケットを口に、サーブは足で。異彩放つエジプト卓球選手に会場が注目パラフォト\n車いすラグビー初戦、日本は劇的な逆転勝利!その裏で......敗れたフランスの燃え上がる闘志パラフォト\n東京2020パラリンピックはここに注目! 金メダル候補をPICK UPパラサポ\n【東京2020パラリンピック】12日間の競技見どころまとめパラサポ\n7人が連携したGOALを~ブラサカ日本代表選手インタビューパラフォト\n日本トップクラスの進学校で実施される特別授業とは? 子どもの世界を広げる、多種多様な出会いパラサポ\nグランドスラムの夢を叶えた車いすテニス・大谷桃子、東京パラで会場をどよめかせる!パラサポ\n多種多様で見どころ満載! 東京2020パラリンピックの聖火リレーパラサポ\n【東京2020】オリンピック・パラリンピック選手村レポートパラサポ\n木村敬一、「やっと、舞台に立つ準備ができた!」〜本番へ最後、長野パラ・レガシーの地で県大会に出場〜パラフォト\n晴れ\n熱中症指数警戒\n明日9/20 (月)\n晴時々曇\n28°C[-2] 19°C[-2]", "perplexity": 33.478820511700924}} +{"row_index": 37538, "sha1": "1120bc87ee83de75cfadce09bfef7df225593de4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0014", "kept_row_index": 6087, "reason": "exact_duplicate", "record": {"url": "http://joiningdotsorganization.org/decolour613057.html", "content": "プロの翻訳者集団だから実現できる\n安定した高い品質\nKSM News & Researchは、高い専門性を持ち各分野に精通した翻訳者・通訳者による\n高品質のサービスを提供します。フランスおよび欧州に関連した\nビジネス活動を行う企業の皆様を支援いたします。\n言語の壁を超えてビジネスをサポート\nKSM News and Researchは、欧州でビジネスをする上で不可欠な情報をまとめたニュースレターの配信を中心に、翻訳、通訳、調査など、お客様のビジネスに役立つサービスを提供しています。\nニュースレター/検索サービス\nフランスおよび欧州でのビジネスに欠かせない政治・経済・産業・社会関連の最新ニュースをコンパクトにまとめ、メールにてお客様のお手元にお届けします。ニュースレターを利用することで、情報収集にかかる時間や労力を抑えることができます。また、環境・エネルギーやアフリカ・マグレブに特化した専門ニュースレターもあります。ご関心のある記事をサイト上で検索・閲覧することも可能です。\nフランス語翻訳・英語翻訳\nヨーロッパの政治・経済・産業など各部門の専任担当者が、専門的なバックグラウンド・最新の用語知識をもって高品質な翻訳をご提供します。 日々のニュースレター執筆を通して常に翻訳の品質向上に努めています。\nフランス語通訳・英語通訳\n会議、各種シンポジウムやセミナー、ビジネス交渉、産業視察における通訳を行います。オンライン会議やウェブ上でのセミナーや研修にも対応可能ですのでお問い合わせください。\n調査・クリッピング\n制度調査、市場調査、経済・政治動向調査、技術調査、アンケート調査など、お客様のご関心・ご要望に沿って、様々な角度・アプローチからの情報提供および報告書の作成を行います。\nニュースセレクション From our Newsletters\nフランスおよび欧州の政治、経済、企業、ビジネス、社会、文化に関する必須情報をコンパクトにまとめたニュースレターから、毎日の厳選ニュースをご紹介。\nフランスと欧州をもっとよく知りたい皆様のために、日頃の情報収集・調査で培ったノウハウの生きた読み物のページもご用意しております。\nKSM News and Researchの強み\nKSM News and Researchは、フランスのパリに拠点をおく\n歴史と実績のある翻訳・通訳会社です。\nフランスおよび欧州でビジネスをする上で必須の最新情報を\nニュースレターとしてコンパクトに編集し配信することで日々蓄積された\n専門的で時事的な知識・人材・情報のデータベースが私たちの強みです。\n## 無料お見積り・お問い合わせはこちら\n新規のお問い合わせ、サービスについてのご質問など、お客様からのご相談を受け付けております。\nまた、翻訳・通訳のお見積りを無料にて承っていますので、初めての方もお気軽にお問い合わせください。", "perplexity": 10.598452699205861}} +{"row_index": 39451, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/T%C3%BCrbeschl%C3%A4ge-199941-oder-Verzinkt-Simonswerk-T%C3%BCrband.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..5b666251d0ea4d7cbd64e3b3159cb43eec7688ca --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0125/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0125", + "rows_in": 46072, + "rows_dropped": 3, + "rows_out": 46069, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:12.811366+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.6, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/common_crawl_3_filtered_0126.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/common_crawl_3_filtered_0126.parquet new file mode 100644 index 0000000000000000000000000000000000000000..bcd343f24ddc7df596eb8299d18ff3870820c870 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/common_crawl_3_filtered_0126.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:943d1f90496b5123f58a410d5924df1631b4b93d4d1b60e8e440091480d13ff0 +size 110090309 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..589992e74da1cbc2b7f5f9395949013ee8f35bc0 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 7271, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "https://xn--o9jzh4bxac5evok819b.com/melanagogue1956065.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} +{"row_index": 14026, "sha1": "4f838326a3291f45385fe869f9df9aabd5332c99", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0030", "kept_row_index": 42117, "reason": "exact_duplicate", "record": {"url": "http://www.romanwhite.com/goutish1434906.html", "content": "### 北海道と北陸出身者が東京の刺身の不味さを語る中、自分が『栃木には海ないから東京の刺身は全部うまい』と言ったらみんなが..158325 pv 374 396 users 2208\n### 子どもの寝かしつけでヒツジを数えていたら227匹目でお子さんが発した言葉に一同爆笑「かわいい」「たまってくタイプやっ..108886 pv 49 2 users 797\n### カルロス2世のWikipedia、競走馬用の血統フォームが使われてる→ハプスブルク家の近親婚は馬でもやらないヤバい血..26403 pv New 64 19 users 1\n### 最近『さくら水産』を見かけなくなったと思ったらコロナの影響でかなり潰れたらしく都内はもう11店舗しかないらしい「50..26697 pv New 49 5 users 38\n### ポケモンセンターでダイパリメイクを購入したら「最初のポケモンはもう決めてますか?」と聞かれた→答えるとレシートに粋な..13340 pv New 27 1 user\n### AIで架空の小説を作ることができるツールで、Wikipediaを模して『座頭市vs.ゴジラ』を作ってみたら脚本が庵野..アプリで作成11457 pv New 61 2 users 2\n### 下校中の女子高生達とすれ違う瞬間、高い確率で無言になり、少し行ってから『サイゼリヤ...』とつぶやく声が聞こえるブルゾン..26764 pv New 27 47 users 13\n### 矢をつがえる映像1047pv\n### 子どもの服がサイズアップするたびに思うこと「なっっっが!(大丈夫か?)」からの「「履けとる」」23472pv 16 1 user\n### すぴか式 『わかりやすいデザイン!』のおはなし編集部イチオシ\n「声だと思ってフォントを選ぶ」チラシやポスターなどのデザインに役立つヒントを紹介(編集部)5576 pv 34 1 user\n### 平凡な女の子が嘘だけで成り上がる『嘘つきな女の子がイケメン御曹司の婚約者になる話』がすごい。「とんでもない漫画に出会..アプリで作成41519 pv Up 39 109 users 20\n### オタク界隈に長くいると『俺はこれで生きていく!』と趣味全振りにした結果、趣味活動する資産すら失う人間が出てくるらしい18813 pv New 28 3 users\n### 着物で走ったりとか激しい脚の動きをしている資料がない!と絶望していたが『マツケンサンバ』のMVでたっぷり見れる事に気..15428 pv New 100 2 users 24\n### 激務になって余裕がなくなると本が読めなくなる、視野が狭くなり、余裕がなくなり、頭のメモリを使わない娯楽しか享受できな..アプリで作成13872 pv New 74 9 users 1\n### 「石油質のため火気厳禁」油田がある新潟県には、臭いは灯油かつ入浴後は肌がトゥルントゥルンになるヤバい温泉があるらしい9823 pv New 28 22\n### 戦前の女性用雑誌「主婦の友」を読んでみた編集部イチオシ\n今の女性誌と共通するような美容や健康の広告が載っていたり...戦前ならではのネタも(編集部)9622 pv 20\n### ヨドバシカメラのガンプラの展示センスが理解した瞬間に笑えるくらいにひと味もふた味も違っていた8741 pv New 15 1\n### お題「童謡『森のくまさん』を怖いハナシにしてください」に投稿いただいた「呟怖」集!アプリで作成2897 pv New 10\n### 終電で終点まで行ってみた「JR東北本線 黒磯駅(上野東京ラインの終点)」8817 pv New 44\n### このメーテル、なんだか品が悪いなあと人が思う時見ているのは『銀河鉄道999』のメーテルではなく『漂流幹線000』の平..54782pv 58 35 users 59\n### ただ大阪へ行くんじゃもったいない!900円で近鉄特急の本気「ひのとり」に乗車してみようぜ。アプリで作成6886 pv New 16 4 users\n### 「申請」が前提の給付金は本当に必要な人に届かないし、誰が「必要」かという不毛な論争になるので、全員に行き渡るようにし..アプリで作成4492 pv New 42 2 users 15\n### 帯広一泊二日ばんえい競馬を観に行く編集部イチオシ\n札幌から高速バスに乗り出発!豚丼やインデアンのカレーなど地域グルメに注目です!(編集部)2276 pv 14 3 users\n### 寝かせるとあらゆるぬいぐるみが可愛くなってしまう『ごはんのおふとん』ガチャにお勧めの声が集まる「みんな買うべきでは」アプリで作成6287 pv New 17 1 user\n### 「使い道はないけどほしい」「マニアックすぎる」ミクロ界のスター爆誕!?ガチャガチャにT4ファージがついに登場!!!10820pv 43 2 users 30\n### 「棒は剣の下位互換」って作品を読んだ覚えがあるけれど 実際、棒のメリットって何だろう?19267 pv Up 209 2 users\n### ダイパで最初に選ぶ1体を悩んでる人へ→ヒコザルはクリアが簡単、ポッチャマは可愛いし優秀。ナエトルは...アプリで作成4750 pv New 4\n### 元気のない飼い主さんにワンちゃんが持ってきてくれた物がこちら「優しい! そんなことしてくれるんだ」42002 pv 53 87 users\n### 山本勘助の日の本探訪!~丹波・丹後・但馬篇~アプリで作成 編集部イチオシ\n「若武者共曰く彼様な物を『ばえる』と云うらしい。」軍師になりきった旅の記録(編集部)942 pv 5\n### 年末調整クッソミスって「年内に退職する」にチェックを入れたので退職することになった気がする→その手があったか!となる..アプリで作成40842 pv 15 5 users 14\n### 部下に怒鳴っていいのは生命身体に危険が生じた時だけ→『ナッパよけろ基準』と覚えましょう23216pv 59 3 users\n### 行方不明になりがちなマロニーちゃんは竹輪で一網打尽11142pv 38 4 users 44\n### 子どもがパトカーのサイレンの音を『にいのう にいのう』と表現してて宮沢賢治みたい→子どもの詩的な擬音が集まるアプリで作成2205 pv New 5\n### 編集者の新人研修で、ベテランに原稿の読み方を一通り教わった後「いざとなったら(実物は)ここにあるからね」と机の中から..アプリで作成33183 pv Up 48 4 users\n### プラスチック廃棄物は永遠に分解されない...と思いきや『PETを食べる細菌』が日本で発見されていた「石炭紀みたい」1733 pv New 5\n### 朝、家を出る夫がまだ寝てる子供達の部屋で「アレクサ、上上下下左右左右BA」と言い残し扉を閉じた→こだまするアレクサの..107281 pv 203 191 users 68\n### ときめきメモリアルGirl's Side 2nd Kiss佐伯瑛ルート初見プレイの記録編集部イチオシ\n数年前にすすめられたゲームをプレイ「煽りでウォレットチェーン贈ったら喜ばれた」(編集部)5502 pv 6\n### 『継ぐ決断と辞める決断』酪農家を継ぐ人辞める人のそれぞれの覚悟を描いた漫画が泣ける21852pv 30 1 user\n### 大きいクッキーだ!10061pv 18\n### 精神科医『「あれが食べたい」ってのが分からなくなってきたら休んだ方が良いサイン。コンビニとか飯屋で決め兼ねる度合いが..アプリで作成21911 pv 43 2 users 18\n### 【論がないから】「F35不要論」の最大の欠点は?【論外?】1442 pv New 4\n### 『うっっっそやろ』2000円ガチャでPS5が当たった人「都市伝説じゃなかったんだ!!!」「夢と希望が詰まってますね...」33976 pv 36 1 user 1\n### 「君、食べられてますよ」フカヒレをはむはむされても動じないトラフザメが水族館にいた40732pv 54 21 users 3\nAI時代、死の定義が変わる?死にまつわる問いを、マンガやアート作品と共に考えます(編集部)629 pv 8\n### 「○○語ってどうやってキーボード入力するんだろう?」と時々思うけど、それは世界中の人が日本語に対して思ってるよという話!121543 pv 504 383 users 198\n### 子供の授業参観に何を着て行こうかと服を探しているが、着て行くべきじゃない服にばかり目が行く「THEどこで売ってんだこ..39144pv 45 23 users 46\n### 突然レース鳩を保護することになった話。編集部イチオシ\nベランダにやってきた鳩に足環が 飼い主に連絡をし苦手な鳥を保護することに(編集部)13112 pv 62\n### お前らガチ泣きしたシーン晒せよ200/2/10 18:11~18:271064 pv New 1\n### 京都の紅葉 智積院・清水寺・高台寺・真如堂・金戒光明寺・永観堂ライトアップ401pv New 4\n### 復讐をしようとする人に「こんな事をしてもあの人は喜ばない!」というセリフへのベストな返答は?→様々な対抗馬が集まる41400pv 146 3 users 37\n### 昔「実在しないモノの絵を描く人が怖い」と言われた→フィクションを楽しめない人は『未知への恐怖心』が原因?アプリで作成38185 pv 123 85 users\n### カブを使って作りたかったものと、現実のギャップがこちらです「おじいさんはおばあさんを呼んできて、おばあさんは孫を呼ん..40906pv 30 22 users 14\n### お姉さんに「はっぴぃえんど全部あつめたみたいなツラ」と言われた女優さんのお写真が納得しかできないレベル33364pv 41 2 users 64\n### ヨドバシカメラのガンプラの展示センスが理解した瞬間に笑えるくらいにひと味もふた味も違っていたNew 15 1\n### 子どもがパトカーのサイレンの音を『にいのう にいのう』と表現してて宮沢賢治みたい→子どもの詩的な擬音が集まるNew 5\n### 平凡な女の子が嘘だけで成り上がる『嘘つきな女の子がイケメン御曹司の婚約者になる話』がすごい。「とんでもない漫画に出会..Up 39 109 users 20\n### 寝かせるとあらゆるぬいぐるみが可愛くなってしまう『ごはんのおふとん』ガチャにお勧めの声が集まる「みんな買うべきでは」New 17 1 user\n### 最近『さくら水産』を見かけなくなったと思ったらコロナの影響でかなり潰れたらしく都内はもう11店舗しかないらしい「50..New 49 5 users 38\n### ポケモンセンターでダイパリメイクを購入したら「最初のポケモンはもう決めてますか?」と聞かれた→答えるとレシートに粋な..New 27 1 user\n### 「申請」が前提の給付金は本当に必要な人に届かないし、誰が「必要」かという不毛な論争になるので、全員に行き渡るようにし..New 42 2 users 15\n### プラスチック廃棄物は永遠に分解されない...と思いきや『PETを食べる細菌』が日本で発見されていた「石炭紀みたい」New 5\n### 「石油質のため火気厳禁」油田がある新潟県には、臭いは灯油かつ入浴後は肌がトゥルントゥルンになるヤバい温泉があるらしいNew 28 22\n### 着物で走ったりとか激しい脚の動きをしている資料がない!と絶望していたが『マツケンサンバ』のMVでたっぷり見れる事に気..New 100 2 users 24\n### 終電で終点まで行ってみた「JR東北本線 黒磯駅(上野東京ラインの終点)」New 44\n### 下校中の女子高生達とすれ違う瞬間、高い確率で無言になり、少し行ってから『サイゼリヤ...』とつぶやく声が聞こえるブルゾン..New 27 47 users 13\n### AIで架空の小説を作ることができるツールで、Wikipediaを模して『座頭市vs.ゴジラ』を作ってみたら脚本が庵野..New 61 2 users 2\n### お題「童謡『森のくまさん』を怖いハナシにしてください」に投稿いただいた「呟怖」集!New 10\n### 画像ピックアップ!\n### 「語彙力が崩壊した」「クラフトビール天国」今日オープンの京都ヨドバシ地下のスーパーがヤバい。 控えめに言ってもヤバい。13044pv 50 4 users 66\n### 炊飯器カタログに\"くそうまく炊けるモード\"があってテンション上がった「よく見て」「そこだけ縦読み?」46613pv 32 20 users", "perplexity": 39.44800781030423}} +{"row_index": 26217, "sha1": "8b79a2b6430548b76c9ce454f807ed52e4adf4b1", "kept_config": "common_crawl_1", "kept_shard": "common_crawl_1_filtered_0005", "kept_row_index": 13848, "reason": "exact_duplicate", "record": {"url": "http://websolutionspk.com/semismelting/annexa591477.html", "content": "刑事事件 お悩み解決\n刑事事件の解決方法を解説しています。逮捕・取り調べ・示談に関するお悩みや、痴漢・窃盗・傷害といった罪名ごとの詳しい解説記事を掲載しています。\n### 新着記事\n#### あおり運転で通報された!|違反行為・罰則について解説更新日 : 2022/07/19\n刑事事件 データベース\nアトム法律事務所が過去にとり扱った事案の中から、約2000件分の実績データを集積しました。お困りの皆さまに、より具体的な情報を提供しています。\n法令 データベース\n事件類型ごとに「刑罰」「捜査の流れ」「有名裁判例」を紹介しています。法令を知る\n体験談 データベース\n依頼者様の体験談を紹介!事件類型ごとに依頼者様直筆のお手紙を公開しています。体験談を読む\n## 刑事事件でお困りの方\n## アトムについて知りたい方\n刑事事件でお困りの方へ\n無料相談予約をご希望される方はこちら\n24時間365日いつでも相談予約受付中\n※ 無料相談の対象は警察が介入した刑事事件加害者側のみです。警察未介入のご相談は有料となります。\n## アトム法律事務所の関連サイト\nアトム法律事務所の公式サイトはこちらです。法人概要、活動実績、求人採用、所属弁護士、全国の拠点などに関する最新の情報を掲載しています。\nアトム法律事務所が運営する交通事故の総合サイトです。交通事故の示談や慰謝料に関する無料相談を受け付けています。\n## 刑事事件や弁護士の情報サイトご紹介\n全国対応であなたに合った交通事故の弁護士が見つかるサイトです。交通事故の慰謝料・示談・弁護士探しでお困りの方のための情報を提供中。\n全国対応で刑事事件の弁護士を探せるサイトです。逮捕・前科・不起訴に関するお悩み解決の情報を提供しています。", "perplexity": 19.650608667301004}} +{"row_index": 42437, "sha1": "4fa117a8a5c7aa8bdbb8872b2ade019e1a9d70d4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0026", "kept_row_index": 40381, "reason": "exact_duplicate", "record": {"url": "https://datadriven.biz/coburghership859183.html", "content": "気になる! 最新情報\n無印良品、ニトリなど出店へ\n予約好調、兵庫の「応援県民割」\nグルメ\n復刻ハヤシライスが人気 話題のキーワード\n- 神戸版特区シリーズ最終章は「中央マンスリー 港都燦々」。神戸市発展の礎となったミナトとともに歩んだまちを訪ねる。(中央マンスリー)\n- 話題の限定ランチや新規オープンのお店などをカバー。家族や友人、同僚とのランチのお店探しにお役立てください。(ランチどこいこ?)\n- 神戸大医学部付属病院の専門外来で多くの認知症患者を診ている教授に、認知症とどう付き合えばよいのか語ってもらいます。(きょうからできる認知症対策)\n- 東京五輪を前に、兵庫ゆかりのオリンピアンの「追憶」や「流儀」、現役選手への「メッセージ」を随時紹介。(ひょうごのオリンピアン)\n- 【地域パートナー宣言】\n神戸新聞社は、子育てや防災、地域の課題解決に向け、皆さまとさまざまな取り組みを進めます。\n◆宣言文などはこちら⇒\n- 丹波からの贈りもの\n- 【限定100セット】すき焼きセット~兵庫県丹波産鶏卵「せせらぎ」と兵庫県但馬産黒毛和牛雌牛「太田牛」すき焼き用200g。すき焼きや牛丼、卵かけご飯などの料理として堪能いただけます。\n- “みんな”のひまわりHeart! Project~\n- 昨年、兵庫県内を始めとする各ご家庭や企業・団体で栽培、収穫していただいた種を使用したひまわり油です。", "perplexity": 29.82645331714705}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..e2b0ceed99f1de9c5123fd2baaddc994376a3379 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0126/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0126", + "rows_in": 45969, + "rows_dropped": 4, + "rows_out": 45965, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:13.755117+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.6, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/common_crawl_3_filtered_0127.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/common_crawl_3_filtered_0127.parquet new file mode 100644 index 0000000000000000000000000000000000000000..355502badbd599548d6731f9f0aa37f877403708 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/common_crawl_3_filtered_0127.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7d80861f6bcc9f81ff5bc3c13e5d54256aa41cfe8c9936784665a72f215089f8 +size 110822783 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..4310da271672734ab3a39e96e465395477d80152 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_removed.jsonl @@ -0,0 +1,7 @@ +{"row_index": 7734, "sha1": "ce202d4f020e7623fc3de60e3c0a5f57704cb03c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0003", "kept_row_index": 4158, "reason": "exact_duplicate", "record": {"url": "http://down2mars.com/crocetin1424567.html", "content": "## FEATURED PRODUCTS / 特集\n5月17日 MOONEYES 35周年。Anniversary を記念したアイテムが登場!\nあなたの愛車のダッシュボードを日焼けによる色あせやヒビ割れから護ります\nOld is New! キャップをカスタムできるルーバーです\nNew Clothings Collection Spring - Summer 2021!!\niPhone 12 Pro, 12, 12 mini 対応ケースが待望の入荷!\n洗車グッズや、お部屋やオフィスのお掃除などに必要なアイテムを御紹介します。\nMotorcycle を簡単にカスタムできるアクセサリーを特集しました。\n女性に人気のハンドルカバー特集。\nECO-FRIENDLY GOODS 特集です!!\nMOON Cafe の オリジナルアイテムはこちら\nあなただけのオリジナル ライセンス フレームをお作りします。\nMOONEYES が 他の企業とコラボしたアイテムを御紹介します。\n様々な種類のグラス、マグカップなど来客用にも普段使いにも使えるアイテムを取り揃えました。\n愛車の雰囲気を簡単に変えられる、ホールキャップ & トリムリングです。\nピンストライプは始めたくなったらまずはこちらをご確認ください。\nサインボード、メッセージボード、パーキングサインを一度に集めてみました。\n## BACK IN STOCK / 再入荷\n-\nMOONEYES トランスポーター ラバー トレイ\n[MG839TR]", "perplexity": 17.44651111898208}} +{"row_index": 15202, "sha1": "3892df29f690114c0543b4dd73a4387a4bc47212", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0030", "kept_row_index": 29190, "reason": "exact_duplicate", "record": {"url": "http://phykenmedia.com/knopweed358132.html", "content": "## バクテリアの新素材\nMITの研究所でハイブリッド素材、039を使用しました。 バクテリア少し039; 金属。 医学だけでなく、バイオ燃料の生産にも使用できます。\n### 24時間の人気\n## キラウエアとハワイの他の火山:500万年の歴史\nハワイの火山は、何百万年もの間、深部からマグマを地表にもたらしてきた地球上のホットスポットで生まれました。 惑星の。\n## ハンスクリスチャングラムとは\n微生物学者のハンス・クリスチャン・グラムは現在166歳です。 そして、私たちは皆、彼と彼の長老について話します。 実際にà デンマークの科学者&墓; 1938年に亡くなりましたが、 まだ使用中の細菌、グラム陽性およびグラム陰性細菌の識別技術でまだ知られています。 ではなく、刻みます。 小さなこと。\n## ヘルペスとアルツハイマー:絆の仮説が強化されます\nこのテーマに関する研究の新しい改訂版は、piとugraveの間に相関関係がある可能性を示唆しています。 認知症およびウイルス感染の一般的な形態。 もしそれが本当なら、治療、そして何よりも病気の予防に新しい道が開かれるでしょう。\n## モルタ・マルゲリータ・ハック\nトスカーナの科学者は、イタリアで天文台を運営した最初の女性でした\n## 月のすべての人\n月の土を歩いた12人のうち4人が私たちを去った。 他の中で最年少は77歳です。•ニール・アームストロングは地面に触れた最初の男です...", "perplexity": 17.053778859186693}} +{"row_index": 17704, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "https://www.sougi-kansai.jp/contravindicate2237665.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} +{"row_index": 19977, "sha1": "465ce9d0dbb7184dc1f11840d686643f6c5a6855", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0080", "kept_row_index": 41904, "reason": "exact_duplicate", "record": {"url": "http://ease-karuizawa.com/cimicifugin403271.html", "content": "「Googleカレンダー」に「サイレントモード」が追加\nREvilとDarkSideはいったん影を潜め、新たなRaaSファミリーが出現--マカフィーの脅威レポート\nSAPの第3四半期決算、「RISE with SAP」に勢い--通期見通しを引き上げ\nシスコ、東京2020オリンピックでの取り組みを解説---卓球選手のメダル獲得にも貢献\nNTT Com社長が語った「社会や産業のDXに求められる3つの要件」とは\n安全なテレワークの現状--73%がセキュリティ脅威の増加への対応に苦慮\n世界IT支出、2022年は4.5兆ドルに--ガートナー予想\nクリテオ、「コンテクスチュアル広告」を国内でベータ提供--ユナイテッドアローズが国内初導入\nAsana、「Enterprise Work Graph」を発表--チーム間の連携強化を支援\nIBMの第3四半期決算、売上高が予想下回る--クラウド堅調、Kyndryl分社化は間もなく\nNews from ZDNet Worldwide\n本国アメリカのZDNetが発信する海外最新IT動向やテクノロジトレンドに関するニュースを毎日発信!\nNetSuite、フィンテック機能をERPに統合した「SuiteBanking」提供\nオラクル傘下のNetSuiteが、フィンテック機能をクラウドERPに統合した新しいスイート製品「SuiteBanking」を発表した。HSBCとパートナーシップを組んでいる。\nマイクロソフト、「VS Code」のブラウザー版プレビューを公開\nマイクロソフトは、ウェブ上で利用できる「Visual Studio Code」(VS Code)のプレビュー版の提供を開始した。\n「Windows 11」のAndroidアプリ対応、米国で試用開始\nマイクロソフトは「Windows 11」への「Android」アプリ導入に関して、同機能の最初のプレビュー版を「Windows Insider Program」で米国向けに公開した。\nSolarWindsハッキングはサイバーセキュリティへの警鐘--マイクロソフトのプレジデント\nSolarWindsへのサイバー攻撃で、ロシアによる攻撃や、相互につながるソフトウェアサイバーチェーンの状況が明るみになった。\n愛知県がんセンターと富士通、患者ごとの薬剤選択をAIで支援するシステムを開発\n愛知県がんセンターと富士通は、がん患者のがん種や多様な遺伝子変異に基づき、さまざまな治療薬から効果が期待される薬剤を人工知能(AI)で効率良く絞り込むことができるシステムを開発した。\n全日食、基幹システムをクラウド化--インフラコストを年間40%以上削減\n全日本食品(全日食)は、ビジネス環境の変化に柔軟に対応できるインフラを整えるため、基幹システムを中心とした全システムのクラウド化に取り組み、7月に本稼動を開始した。\nガートナージャパンは10月19日、デジタル技術を活用したビジネス変革において「トータルエクスペリエンス」と「コンポーサブルビジネス」が不可欠との見解を発表した。\n富士通が重点注力分野に定めた「ヘルシーリビング事業」の新リーダーは何を語ったか\n「健康で豊かに生きる」ためにIT/デジタル技術をどう活用するか。この大きな社会課題に対し、富士通が新たな取り組みを明らかにした。その内容が非常に興味深かったので、取り上げて考察したい。\nデジタルトランスフォーメーション(DX)の成功に必要な要素はどんなものだろうか。2人の最高情報責任者(CIO)に、デジタル化を定着させる鍵と考えられるものについて話を聞いた。\nグーグルによるランサムウェア調査、サンプル8000万件の分析で分かったこと\nグーグルの調査によると、2020年以降の調査期間中にランサムウェアの報告が突出して多かったのはイスラエルだった。\n### 企画特集\nビジネスの推進には必須!\nZDNet×マイクロソフトが贈る特別企画\n今、必要な戦略的セキュリティとガバナンス\nアプリが簡単にできるって本当?\nセールス、マーケ、人事の3名が実際に体験\n業務をローコードツールで改善してみた\nひとり情シスのための年度計画\n大企業も中小企業も求められるレベルは同じ\n限られたリソースでのIT管理対応法\n中規模企業のヘルプデスク業務\n多くの業務がのしかかる「ひとり情シス」\n限られたリソースで最大の効果を得る方法\nビジネスのためのデータ基盤構築\nDX時代の企業成長はデータ活用が鍵\n新たな展開を後押しするSQL Server活用\nデジタル時代のITインフラ構築術\n仮想化統合、クラウドを経て今「マルチ」へ\nITインフラの最適化と継続的進化への道筋\n結果に差がつくウェビナーへの投資\nデジタル営業時代における見込み顧客獲得へ\nウェビナーの運用・集客・フォローの最適化\nアプリケーションモダナイズ\n求められている背景にあるビジネスの今\nそして、成功の鍵を握るDevOpsの真の意味\n自社利用の知見・経験を顧客に提供\nコンテナ活用を推進する日立製作所\nVMware Tanzuを利用したモダナイズを伝授\n非構造化データのデジタル活用へ\n社内の文書コンテンツを一元管理\nデジタル変革と内部統制の二兎を得るECM\n特集:IT最適化への道\n成功の秘訣をその道のプロが解説\nカギとなるのはシステムの「見える化」\n今を知り、未来を見据える\n培ってきたノウハウを最新技術へ対応させる\nレガシーシステムのモダン化実現への道\nEDRトップランナー対談:後編\nセキュリティ戦略を転換せざる得ない背景と\nEDRのような手法が必要な理由に迫る\n製造業を悩ますセキュリティ課題\nグローバルサプライチェーンに潜む\nサイバー脅威への理解と具体的な対策\nできるエンジニアとは?\nフィンテックビジネスの経験から語る\nDXにおけるIT人材の重要性\nオープンソース活用はあたりまえ!\nそんな今だからこそ改めて考える\n企業ITにおけるOSS活用のメリットとリスク\n企業DXのヒントに!\nSAPとMSとインテルのタッグがもたらす\n新たな価値について3社キーマンが語る!\n20年培ったデジタルカイゼン文化\n誰もが知るあの「Notes」で実現する\n現場とIT部門二人三脚でのデジタルカイゼン\nともにDXを推進する\nコンテナ化されたワークロードを管理\n継続的な価値を生みだす「協創」への挑戦\n単純なインフラ製品の販売ではない\nDX、コンテナプラットフォームの実証など\n自社の取り組みで得られた知見を顧客に提案\nセキュリティモデルは変わった!\nクラウド活用、リモートワークはあたりまえ\nいま求められるゼロトラスト実現のために\nヤフー担当者が語る!\n安心なサービスを作るための試行錯誤\n効率とリスクのバランスをどうしているのか\nクラウドネイティブの実現\nモダンインフラの構築・運用の課題解決へ\nコンテナの可能性を広げるVMware Tanzu\n激変するビジネス環境の中でのDX\nモダンアプリケーション戦略への取り組みが\n市場の競争力の源泉となる\nデータ活用は次のステージへ\nトラディショナルからモダンへ進化するBI\n未来への挑戦の成功はデータとともにある\nコンテナをエンプラITに!\nコンテナ活用の基礎\n本番実装が増える背景とメリット\n喫緊の課題!自治体のIT環境整備\nクラウド化のニーズが高まる地方自治体の\nクラウドシフトを今日旅行に支援\n身近な改善の第一歩!\nニューノーマルな働き方を前提にした", "perplexity": 16.771232556207913}} +{"row_index": 28177, "sha1": "57a329b1b1888109772b29a7eb2ea5be1a3ea502", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0054", "kept_row_index": 35198, "reason": "exact_duplicate", "record": {"url": "http://revistaamasar.com/highman105997.html", "content": "## 弁護士保険とは About us\n弁護士保険とは、弁護士へ相談・依頼する際に必要となる弁護士費用を補償する保険です。こちらでは弁護士保険の基本的な補償内容(対象となるトラブル・補償期間など)や、必要性についてご案内します。\n## 商品のご案内 Insurance products\n-\n### 個人型 弁護士保険コモン+\n### 事業型 弁護士保険コモンBiz+\n「弁護士保険コモンBiz+」は中小企業に突然降り掛かる法的トラブルの発生を防ぎ、いざというときに会社と従業員を守るための保険です。\n## 保険金支払事例 Cases\n弊社が提供している弁護士保険が\nどんなときに役に立つのかを\nトラブル種別ごとに\n分かりやすく紹介します。\nここに掲載されているトラブルはあくまでも例であり、支払金額は当社独自の計算方法のもと算出しています。\n保険金の支払額については個々の事例により異なりますので、記載された支払額を保証するものではありません。\n## 弁護士保険のメリットとは Merit\n弁護士保険のメリットとは\n近年、非常に話題になっている「弁護士保険」ですが、具体的にどういった保険なのか、まだまだ認知されているとは言えません。 「弁護士保険」はどういったメリット・デメリットがある保険なのかご案内します。\n## よくあるご質問 FAQ\n当社に寄せられたよくあるご質問についてカテゴリごとにまとめてご紹介します。 もしこちらに掲載していないご質問がありましたら、お気軽にお問い合わせください。", "perplexity": 19.36837303576859}} +{"row_index": 29180, "sha1": "abc77b3667d01c464287301e759d7aac7a15c0a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0084", "kept_row_index": 12139, "reason": "exact_duplicate", "record": {"url": "http://www.fepc-expo.jp/enthusiast874837.html", "content": "### 民間航空機のフライト追跡サイトに怪しげな\"機体番号HOHOHO\"が観測される「粋だね」「もうそんな頃合い」38629 pv 61 3 users 2017\n### アメリカ人『日本のクリスマスってKFC買って祝うってほんと?w』私『日本のKFCは米国のとクオリティが爆段に違うから..254676 pv 404 374 users 731\n### 雪の中を最終電車で辿り着いた大垣駅で接続なく車中泊も提供されず毛布1枚で放り出された乗客の一人だった話268933 pv 1695 421 users 652\n### 【 #明石家サンタ 2021】「知らぬ間に家が更地に」「ジャガイモの芽の毒にあたる」「タニシ以下の父」「サメに噛まれ..186922 pv 113 6 users 30\n### 女性が知らないおじさんにいきなり怒鳴られたり声をかけられる被害、「黒いマスク」を使いだしたらぐっと減ったという話アプリで作成16996 pv New 21 3 users\n### 徹夜組がいない!朝のりんかい線で座れる!2年ぶりのコミケで歴史的な変化が起きている1314 pv New 8 2 users 2\n### 「食事の準備で1日が終わる」「3食炭水化物祭り」年末年始のごはん大変すぎ問題、どうしてる?100037 pv PR 38 8 users 96\n### お金が欲しいJ〇達は、最初はちょっと緊張しながらも自分達の魅力を見せつけちゃう映像を動画投稿サイトにアップロードして..9167 pv New 17 14\n### 「赤ちゃんが食べちゃうから片付けておこう」とおもちゃを一緒に片付けていたところ、5歳児が赤ちゃんを恐れた話アプリで作成15794 pv New 8\n### 映画を観るときの、好み別の席選びマニュアルがとても役に立つ!「映画鑑賞深層心理学」みなさんそれぞれにこだわりがある様子25481pv 46 38 users 26\n### 運転中に「太陽光が眩しすぎる」と嘆いた結果息子氏がもたらしたソリューションがとても笑えてしまう「息子さん天才では」36113pv 29 2 users 38\n### ガンダムSEED初見感想ツイートまとめ編集可能 編集部イチオシ\n作品の分からないところを教えてもらいながら視聴し、衝撃の展開に度肝を抜かれる(編集部)5609 pv 27 1 user\n### 毎年の大晦日、閉店30分前の大手デパ地下では予約を取りに来なかった・ドタキャンされたおせちの破格値叩き売りが開催され..アプリで作成67499 pv 67 10 users 68\n### 雪印まいたけ公式さん「ごま油で焼いたまいたけをそばつゆに入れるのうそみたいに美味しい...」年越しそばにもいいかも9614 pv 62 3 users 19\n### ここ3年分くらいのニトリのおバズり商品振り返り編集可能71204 pv 89 307 users 45\n### 研究室に転がっていたCanon製のマウス兼電卓が面白そうだけど実用性に疑問符がつくやつだった #お前よくぞそんなもん..アプリで作成16818 pv 23 1 user 77\n### 「すごすぎる...」人智を超えた作品たちが集うタグ「2021年年末に今年まだ出会ってない素敵な作品に出会う」まとめ編集部イチオシ\n### 岸辺露伴は動かない2021 3六壁坂 放送時のTLまとめ1098 pv New 12\n### 久しぶりに自転車へ乗せてもらった愛犬が「喜んでるかな」と思ったものの、撮れた写真が予想外の表情をしていた「アニメみた..29624pv 26 2 users\n### ペットカメラは見た!お留守番中\"ひとり遊び\"を満喫している猫さんのナイスショット「仕事中でもニヤニヤしちゃう」18119pv 18 2 users\n### 『大掃除できない人の特徴』に心当たりのある人たち「床にある本を戻す前に読む」「意思決定を勘定に入れない」4169 pv New 7 1 user\n### 第1回 #クリムゾンクレイジークリスマス まとめ編集部イチオシ\nくじで決めた相手に”変なクリスマスプレゼント”を贈る 楽しい開封式の様子(編集部)2532 pv 31\n### 個人事業で大事にしていることは「後々のため、付き合いのため、などの理由で無償で何かをしない」一度やれば利用され続けるアプリで作成69278 pv 161 301 users 39\n### さようなら。今までありがとうございました。2021年に亡くなられた映画人・著名人7378 pv 67\n### 息子が大晦日生まれでケーキ屋を探すのが大変だったが、人気のお店が営業していたので注文→大晦日にも店を開けるのには理由..51206 pv 59 27 users 9\n### 都立高校入試への英語スピーキングテスト導入問題1421 pv Up 50 29\n### にほひ「かえりたい」ご感想まとめアプリで作成 編集部イチオシ\n「この電話ボックスが私のお母さんだから。」家族の崩壊と再生をテーマにした演劇(編集部)1097 pv 11\n### 「なつかしい...」「青春だ」10年前にタイムスリップ?モンスターハンター2ndGを集まってやる人々292pv New 1\n### 京大のスパコンのデータが約77TB消失してしまったらしい。約28TBは復元不能。日本HPの報告書には『弊社100%の..アプリで作成109704 pv 872 20 users 477\n### 出木杉くんの名前が「太郎」「えいさい」から「ひでとし」へと変わるとき【出木杉英才の名付け親?、現る】7489 pv 29 1 user\nコレクションしていたアニメやマンガ作品などのポスターをファイリング、思い出話も(編集部)1506 pv 8\n### 年末の恒例行事「犬洗い」が行われているようです→洗われるイッヌをまとめました3058 pv Up 4 1 user\n### 仕事中に長男から「次男くん今日は犬の気分らしく朝からずっと犬」とクレーム電話、「そのまま飼ってあげて」と答えてたら職..43773 pv 13 1 user\n### 『なんで目隠しで走れるのかネタバラシします』聞いてもまったく参考にならないマリオ64目隠しRTAのやり方「人外の所業..43823 pv 64 1 user\n### 「高カロリーに関して急に天才になるのやめたい」禁断の錬金術で爆誕した『サイコパスクッキー』があまりにも罪深い45933pv 41 3 users\n### macOS環境での効率化について話し合う会1482 pv 3\n### 『バケモノになりたい...』小さい頃からの願望を叶えるためにVRゴーグルを購入してバーチャル空間に飛び込んだ人の話「美女..アプリで作成11301 pv 33 2 users\n### 香取慎吾さん交際25年からの結婚→様々な視点で『25年』を理解する皆さん「オリックスが前回優勝した時」「こどものおも..21810 pv 25 1 user 21\n### 友達の付け襟がめちゃかわ!鳥!ニットについてるのはうちの猫の毛!→「刺繍も見事だし猫の毛まで可愛い」「めっちゃオシャ」13205pv 21 1 user\n### 「横浜で一番バイオハザードなファミリーマート入口」がこちら、マジでバイハザ感がすごい「ローディングしてそう」23422pv 33 1 user\n### カメムシが苦手な妻のために撃退グッズを発明したニュースのオチが面白い!みんなの撃退方法も5384 pv 10\n### 村雲ルネがVTuberを名乗るようになるまで編集部イチオシ\nプライベートの時間にLive2Dを勉強、苦節を乗り越え初配信をするまでの9ヶ月の記録(編集部)1338 pv 16\n### IT職なので日本全国から労働するの試したけど「東京の諸々揃った部屋から仕事してたまに旅行するのが一番楽」という結論に..14797 pv 36 1 user 2\n### 大岡山にある『100年記念館』が使われているの珍しいなと思って見てみたら強そうな人が街を見下ろしていた「間違いなく悪人」20559pv 44 15 users\n### コミックマーケット99のために壮大なパロディを仕込んだ『お品書き』を作ってしまった方の努力と研究がすごすぎた「なぜベ..18366pv 45 1 user\n### どむっとした猫、でちっとした犬の配達(置き配にて)アプリで作成6382 pv 23\n### #細かすぎて伝わらないアイの歌声を聴かせてのここが好き選手権 #アイの歌声を聴かせて編集可能376 pv New 5\n### 30 MINUTES SISTERS (テストショット編1)編集部イチオシ\n### 今年の花476pv 10\n### 著作権保護期間が死後70年になったせいでマイナーな作家の本がごっそり消えてしまった...フェアユースの制度を利用し著作物..New 2\n### 「年内フォロワー100000万人頑張りたいな」紀文の公式アカウントさんがTwitterの認証バッジ獲得の勢いですごい..6\n### 「赤ちゃんが食べちゃうから片付けておこう」とおもちゃを一緒に片付けていたところ、5歳児が赤ちゃんを恐れた話New 8\n### 芹澤 優 2ndソロライブツアー『Yu Serizawa 2nd Live Tour 2021 好きな人がいるだけで..New 6\n### 年末の恒例行事「犬洗い」が行われているようです→洗われるイッヌをまとめましたUp 4 1 user\n### 都立高校入試への英語スピーキングテスト導入問題Up 50 29\n### お金が欲しいJ〇達は、最初はちょっと緊張しながらも自分達の魅力を見せつけちゃう映像を動画投稿サイトにアップロードして..New 17 14\n### 岸辺露伴は動かない2021 3六壁坂 放送時のTLまとめNew 12\n### さようなら。今までありがとうございました。2021年に亡くなられた映画人・著名人67\n### カメムシが苦手な妻のために撃退グッズを発明したニュースのオチが面白い!みんなの撃退方法も10\n### 女性が知らないおじさんにいきなり怒鳴られたり声をかけられる被害、「黒いマスク」を使いだしたらぐっと減ったという話New 21 3 users\n### 『大掃除できない人の特徴』に心当たりのある人たち「床にある本を戻す前に読む」「意思決定を勘定に入れない」New 7 1 user\n### 「まず健康管理、次に家事、残った気力体力で仕事」50歳を過ぎて気づいた\"時間配分\"に共感New 2\n### 8歳児が本で読んだ知識を披露するとき必ず後置きする「もうごぞんじだろうけど...」に聞き覚え「将来的に言ってほしい」New 1\n### 画像ピックアップ!\n### 年末の水周り掃除の頼もしい味方『クエンさん』仕事人のさっぱりした生き様に惚れる人々「身を粉にして働く」19493pv 31 1 user\n### #お前よくぞそんなもん撮ってたな選手権 2021年12月版「異世界転生用の橋」「建設中の東京ビッグサイト」から奇跡の..29014pv 34 28 users\n### 会社で大掃除してたらとんでもないものを見つけてしまった...どうしよう?「押すなよ、絶対押すなよ?」「本能が試される時」42100pv 36 17 users\n### 「ポケモンは負けたら経験値ゼロだけど、恋愛は負けたら経験値二倍でレベルアップすんだよ」謎の人生訓を教えてくれるマンガ..14368pv 14 1 user\n### 可愛いくまちゃんの形の“出汁”が出てくる鍋、溶けていく様があの有名映画のラストシーンにしか見えない「全てが想像通り」13790pv 37 1 user 2", "perplexity": 37.4634503540254}} +{"row_index": 46112, "sha1": "7af08feaafa9e6a85d4bd05a3a5b6c0a223319cc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0063", "kept_row_index": 16257, "reason": "exact_duplicate", "record": {"url": "http://kougonji.com/Neoplatonism1478124.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年11月21日(日),23日(祝火)/令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年11月28日(日)|大人の科学教室2「電子工作への誘い」~小鳥のさえずり発生器の製作~\n令和3年11月27日(土)|科学工作教室2「LEDを使った光のインテリア工作」\n## 動画配信\n## プロジェクト\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.413047996381188}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..e82f35e9ea03c9d927321461d97e6d3f7ee1d5bf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0127/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0127", + "rows_in": 46245, + "rows_dropped": 7, + "rows_out": 46238, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:13.061435+00:00", + "compression": "ZSTD", + "verified_sha1": 7, + "seconds": 2.9, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/common_crawl_3_filtered_0128.parquet b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/common_crawl_3_filtered_0128.parquet new file mode 100644 index 0000000000000000000000000000000000000000..57487537eeaf7ae0aed72a1a6e4fa77baffa903d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/common_crawl_3_filtered_0128.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d6d9032247533d138c94b0b544cb92757d28553e06ec5a8a556ae9f7b31618c9 +size 108098237 diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..b68905362f99a4014f6053227bf76726a4f20192 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 7380, "sha1": "8797b485e5d54066b209c05d757a3930efad8f80", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0014", "kept_row_index": 6201, "reason": "exact_duplicate", "record": {"url": "https://www.computeeze.com/chronogrammatical5682277.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント\n令和3年1月8日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\nお知らせ「シシュフォスのテーブル」を設置しました\n令和4年1月30日(日)|大人の科学教室4「冬の野鳥観察」\n令和4年1月16日(日)|プログラミング教室5中級\n令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\n段ブロック迷路に鏡の通路を設置しました\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.66493327054226}} +{"row_index": 25059, "sha1": "5bc27a8c2b2c40acac1a1ae68da5a3c38e6303f5", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 20910, "reason": "exact_duplicate", "record": {"url": "https://www.hirose-dental-clinic.com/wishliste/index.php?id=27592", "content": "幅広い年代に愛される\n地域密着型の歯科医院です\nコミュニケーションを大切にし\n一人ひとりに合わせた治療提案\n患者様を笑顔にする\n痛くしない・やさしい丁寧な治療\n皆様は天然歯の大切さをご存知ですか?\n歯科クリニックは、この天然の歯に勝るものはないと思っております。\nそのため当院では、なるべく「削らない・抜かない」を実現するために予防歯科に力を入れております。また、止むを得ず治療をしなければならない時は、歯や歯茎に配慮した機器を用いることで痛みが少ない治療をめざしております。\n院長が介護福祉士でもあるので院内はもちろん、訪問診療においても高齢の方・障害をお持ちの方などにも配慮をした歯科診療を提供いたします。\n虫歯や歯周病の治療だけでなくその予防・定期的なメンテナンスを通して、生涯自分の歯でかむことが出来るように、また、義歯などでお困りのことが少しずつでも改善できるように皆様のお口のサポートをしていければと考えています。\n「保険診療」対応しています。\n初診時の費用は、\n健康保険3割負担適用でおよそ\n¥3,000〜¥5,000になります。\n当院では、診療環境をクリーンにすることと器具を徹底的に滅菌することで、院内感染予防対策をしております。\nさらに、紙コップ、紙エプロンなど可能な限りディスポーザブル品を使うことにより院内感染予防に取り組んでおります。\n従来のレントゲン画像は二次元であったため、正確な顎の骨の状態を把握することができませんでしたが、CTレントゲンは、 三次元での画像が得られ、従来の平面レントゲン画像に比べ、より豊富な情報を得る事ができます。\n当院の診療室は、メディカルライトエアーという医療用の高性能空気清浄器にて高精度でクリアな環境にする事が出来ます。また、個室の準備もありますので、安心して治療を受けることができます。", "perplexity": 12.245228786494772}} diff --git a/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_summary.json b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..0685c561788d048c00983c60c2526b8353393ec1 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_3/common_crawl_3_filtered_0128/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_3", + "shard": "common_crawl_3_filtered_0128", + "rows_in": 45712, + "rows_dropped": 2, + "rows_out": 45710, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:31:14.043105+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.2, + "tag": "dedup" +}