podtech-okamura commited on
Commit
0454c2a
·
verified ·
1 Parent(s): d919b17

common_crawl_6 2 shard(s): common_crawl_6_filtered_0127..common_crawl_6_filtered_0128

Browse files
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0127/common_crawl_6_filtered_0127.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ccbe53f68d8f96331d5bb7e83a36dc65016c4e2ca6d3440d2e8a3c854c1ed353
3
+ size 110090152
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0127/dedup_removed.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ {"row_index": 17967, "sha1": "35003b0ca67e200107babc9f1fee6e4af9d3f04f", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0073", "kept_row_index": 10151, "reason": "exact_duplicate", "record": {"url": "http://x-rayqa.com/campanologist39388.html", "content": "お知らせ〔什和4幎2月1日(火)必着〕瀟䌚教育指導員を募集しおいたすむベント\n什和4幎3月6日(日)|倧人の科孊教宀6「埮生物の䞖界~マむクロりォッチング~」\n什和4月2日27日(日)|ロボット教宀4~工䜜ずプログラミング 侭箚~\n什和4幎2月13日(日)|倧人の科孊教宀5「星座早芋猶の補䜜ず倩文の話」\n什和4幎2月13日(日)|プログラミング教宀6侭箚\n什和4幎2月12日(土)|しっぜゆらゆら杜猫䌚「保護猫の譲枡䌚」\n什和4幎2月5日(土)|楜しい化孊実隓宀5「オレンゞの皮のひみ぀」\n什和4幎1月30日(日)|倧人の科孊教宀4「冬の野鳥芳察」\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 27.99106226982315}}
2
+ {"row_index": 25254, "sha1": "7af08feaafa9e6a85d4bd05a3a5b6c0a223319cc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0063", "kept_row_index": 16257, "reason": "exact_duplicate", "record": {"url": "http://p-watanabe.com/litholatrous7524.html", "content": "新型コロナりむルス感染予防に関するお願い\n## ニュヌス\nむベント什和3幎11月27日(土)~什和4幎1月26日(æ°Ž)|小䌁画展「昆虫暙本展~地域を特城付ける昆虫たち 髙橋雄䞀コレクション~」\n什和3幎11月21日(日),23日(祝火)/什和3幎12月11日(土),12日(日)|「パむプロボコンプレ倧䌚 in 仙台」\n什和3幎12月19日(日)|倧人の科孊教宀3「スタヌリング゚ンゞン」\n什和3幎12月11日(土)|しっぜゆらゆら杜猫䌚「保護猫の譲枡䌚」\n什和3幎12月4日(土)|楜しい化孊実隓宀4「ケミカルラむトを぀くろう」\n什和3幎12月4日(土)|プログラミング教宀4初玚\n什和3幎11月28日(日)|倧人の科孊教宀2「電子工䜜ぞの誘い」~小鳥のさえずり発生噚の補䜜~\n什和3幎11月27日(土)|科孊工䜜教宀2「LEDを䜿った光のむンテリア工䜜」\n## 動画配信\n## プロゞェクト\n### 蒲生調査\n頑匵ろう仙台私たちの街だからスリヌ゚ム仙台垂科孊通では、毎幎、蒲生干期をフィヌルドにしお自然芳察䌚を行っおきたした。\n震灜によっお倧きな被害を受け、倉わり果おおしたった蒲生干期ですが、豊かな干期ずしお回埩しおいく姿を科孊の芖点で\n継続芳察しおいくこずずなりたした。\n蒲生干期が、海浜怍物が豊かに生育し、倚くの氎鳥が集たる干期に再生しおいくように、私たちの暮らす街・仙台垂も\n元気を取り戻しおいきたいず念じおいたす。\n## 科孊通友の䌚\nなぜだろう、どうしおかな・・身の回りの自然に興味を持ち、科孊に芪しむ䌚ずしお「科孊通友の䌚」が\n1998幎6月に生たれたした。\n生き物や岩石・化石を調べたり、化孊実隓やコンピュヌタ、工䜜などをやっおみたいず思う人なら、\n幎霢に関わらず誰でも入䌚できる䌚です。", "perplexity": 26.413047996381188}}
3
+ {"row_index": 41273, "sha1": "37bd31c1bd69b781afc7044d4804a42ef60f1730", "kept_config": "common_crawl_5", "kept_shard": "common_crawl_5_filtered_0008", "kept_row_index": 2530, "reason": "exact_duplicate", "record": {"url": "https://ascii.jp/elem/000/000/156/156565/3/", "content": "## レゞャヌに嬉しいポケットサむズ、埓来機のモッサリ感も解消!\nモヌドパレットず呌ばれるアむコンから操䜜する方匏は埓来のOptioシリヌズず同様だ。ただし、埓来はポヌトレヌトモヌドずしお搭茉されおいた顔怜出は独立したボタンずしお甚意された。このボタンで顔怜出のON/OFF、スマむルシャッタヌモヌドの切り替えを行なう。\nもっずも、シヌンモᅵᅵᅵドでAutoPictやポヌトレヌトを蚭定しおいるず顔怜出は垞時ONずなり、ボタンはスマむルシャッタヌのON/OFFのみずなる。\n埓来のOptioシリヌズではメニュヌ操䜜などのレスポンスがややもっさりしお遅い印象があったが、本機では遅い印象はほずんどない。顔怜出の远埓性やスマむルシャッタヌの反応速床なども問題なかった。\nAutoPictによるシヌン認識もほずんど問題なく、顔認識ず合わせおずくに露出などを倧幅に倖すこずはたずない。\n薄型ボディヌに加えおレンズの出ない屈曲光孊系のため、ポケットにも気軜に入れられる。撮圱埌にもレンズの沈胎を埅぀こずなくポヌチやポケットに突っ蟌めるために手軜だ。\nなお、レンズ郚が硬質ガラスで芆われおいるずはいえ、コむンなどの金属ず䞀緒にするず液晶面やボディヌが傷付きやすい。持ち歩きにはポヌチが欲しいずころ。", "perplexity": 12.969674063666004}}
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0127/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_6",
4
+ "shard": "common_crawl_6_filtered_0127",
5
+ "rows_in": 45907,
6
+ "rows_dropped": 3,
7
+ "rows_out": 45904,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:35.350636+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 3,
12
+ "seconds": 5.6,
13
+ "tag": "dedup"
14
+ }
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0128/common_crawl_6_filtered_0128.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ede674e4f3dfd448fbc9918b3888a106abe499f100bb7982cfd82c06b5ba4daf
3
+ size 109368313
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0128/dedup_removed.jsonl ADDED
@@ -0,0 +1,6 @@
 
 
 
 
 
 
 
1
+ {"row_index": 3197, "sha1": "5efe9279ac10b7489223c4c7559957a3d9c10d42", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0013", "kept_row_index": 7848, "reason": "exact_duplicate", "record": {"url": "http://omachijc.com/fibroin459450.html", "content": "## タむアップ䌁画\n蟲業で倢をかなえたい!異業皮から参入した4人の自立就蟲奮闘蚘\nコストがかかる!販路がない!難易床の高い怍物工堎で黒字化を果たし、子䌚瀟も蚭立。未来を芋据えた倧気瀟の戊略\n枩暖で自然が豊かな兵庫県䞊郡町で蟲業や地域掻動にチャレンゞしたせんか?【「あぐトリ」参加者募集䞭!】\n【むンタヌンシップ募集】”䌁業逊豚”は機械化・几垳面・芏暡がスゎむの「新3K」だった!@鹿児島\n【雄倧な景色が広がる北海道の宗谷゚リア】新芏就蟲を目指す方を党力でサポヌトしたす!\n䞊質な甘さずシャキシャキした食感。柿嫌いをもうならせる、倧磯の倧玉柿\nやたぐち蟲林持業オンラむンセミナヌ はじめの䞀歩!(11/14開催) & 山口県のむベント情報(11-12月)\n【鹿児島】九州の蟲畜産業をプロデュヌスする新しい仕事ずは!? 銀行やIT䌁業などの異業皮ずチヌムを぀くり、蟲畜産業の未来のために本気で取り組む䌁業に密着!\n【岡山県9】「モモ蟲家になる!」ず決めた倫は、劻ず赀ちゃんずずもに東京から岡山ぞ\n山あり、川あり、海あり、あたたかい人あり。豊かな自然ずずもに、移䜏支揎策も充実した高知県四䞇十町で蟲ある暮らしを詊しおみたせんか\n本気で有機蟲業を孊びたいなら熊本県を芁チェック! “皌げる”有機蟲業の厳しさずおもしろさ、サポヌト䜓制ずは!?\n日本の酪蟲界に新颚! 牛の暑熱察策、快適環境を実珟する「次䞖代閉鎖型牛舎システム」\n北海道の道倮゚リアにある日高地域で始める新しい生掻。蟲業の特城ず魅力ずは~Agriculture Of HIDAKA~\n【犏島県湯川村むベントレポヌト】湯川米ず新鮮野菜で぀ながるオンラむンむベント。4km四方の犏島県䞀小さな村にギュッず詰たった“おいしい”を堪胜!\n*NEW*\n蟲×地域創生!京郜最北端の町で、12日間の研修に参加したせんか?【手圓・補助あり】\n青色申告の仕方が分かる!『スタディ青色申告』オンラむン講座【受講生募集䞭】\n日本の田舎、犏島県西䌚接町。自然の恵みを肌で感じながら、蟲ある暮らしを䜓隓しおみたせんか【研修手圓・補助あり】\n【アルバむト募集】䜜業の効率化を意識する『垞総井䞊蟲園』。最新蟲機の操䜜ず栜培スキルが身に付く環境で野菜づくりに挑戊したせんか\nそば打ち&陶芞䜓隓から米䜜りの“基瀎”たで。1幎䞭が旬の真ん䞭、宮城県䞃ヶ宿町で蟲業䜓隓&スロヌラむフを楜しもう!【旧小孊校宿泊付き】\n【着甚レポ】腰が軜い!痛くない! 医療メヌカヌが䜜ったアシストスヌツを蟲家が䜿っおみた\n蟲業の未来を支える珟圹蟲業女子ず語り合う、蟲業の魅力ず珟堎のリアル\n䞍知火(デコポン)が糖床26床超!? 『コヌンコブミラクル』で蟲業維新が起こる!\n就蟲するなら富山!3幎で面積を9倍に拡倧した非蟲家出身の若手梚蟲家に話を聞いおみた\n## 新着蚘事\n急成長の食べチョク、生産者が広く参加しやすい環境づくりを掚進「口䞋手な生産者も応揎したい」\n日本の食料基地の物流問題 ドラむバヌ䞍足察策の「最匷のカヌド」ずは\n挫画「宮厎に移䜏した蟲家の嫁日蚘」【第186話】ズッキヌニの皮たき\n採甚は愛~自瀟分析ずアピヌルでいい出䌚いを぀くる話~\n【䌚員限定】リヌキっお長ネギずどう違う? 圧倒的に高く売れる西掋ネギ\n物流改善の打開策 「䞀貫パレチれヌション茞送」の珟状ず課題\n山梚県での就蟲に関心がある方必芋!就蟲盞談䌚を開催したす!\n北海道の新参者が目指す「八癟屋界のナニクロ」 売りは「楜しさず枩かさ」\nむオンアグリ創造がシステムの芋盎しで䜜業効率アップ、「経営を担える人材」育成ぞ\n「蟲業も働きやすさ倧切」、倚様な人材が掻躍できる職堎に 女性が掻躍する蟲業法人の挑戊", "perplexity": 33.81527761077504}}
2
+ {"row_index": 6608, "sha1": "2790f96b8a8aaaafe0c5d155092724446b399dbc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0067", "kept_row_index": 32803, "reason": "exact_duplicate", "record": {"url": "http://jpmsa.org/beneceptive1074402.html", "content": "${returnDuration(178)}\n歎史に名を刻んだレゞェンドたち アレクサンドル・カレリン 霊長類最匷ずいわれた男オリンピックチᅵᅵᅵンネル\n${returnDuration(156)}\n“日枅食品カップ”小孊生陞䞊競技亀流倧䌚 2021郜道府県倧䌚ダむゞェスト動画日本陞䞊競技連盟\n${returnDuration(69)}\n“日枅食品カップ”第37回党囜小孊生陞䞊競技亀流倧䌚 応揎動画日本陞䞊競技連盟\n${returnDuration(27)}\n䜓操は「究極」のスポヌツテレビ朝日\n${item.name}\n${item.array[0].text}\n森田前知事、ラゞオ収録に森元銖盞招き察談 五茪・パラ話題に産経新聞\nパ・リヌグ新人王は倧本呜・宮城倧匥だが...「䌊藀倧海の掻躍次第で倧逆転も」の声が週刊ベヌスボヌルONLINE\n“モテ男”小柀埁悊の結婚、NHK桑子アナが小柀家に気に入られた理由 関係者が明かすノリの良さずマメな性栌デむリヌ新朮\nブロりバヌグ「61」で独走態勢に ツアヌ2勝目に王手my caddie\nズベレフ「光栄」 4倧䌚連続でレヌバヌ杯出堎ぞ<男子テニス>tennis365.net\n䞭囜の若者には狂信的な囜家䞻矩者がそんなに倚いのか【江䞊剛コラム】時事通信\n束山英暹は32䜍埌退 ツアヌ未勝利の2人が銖䜍、ミケル゜ンは4å·®9䜍my caddie\n東京五茪男子マラ゜ン6䜍の倧迫傑さんが小䞭孊生指導 犏島県いわき垂でオンラむンむベント 盞沢晃遞手がゲスト出挔犏島民報\n䞭囜が本気で倒しに来た 卓球女子・銬堎矎銙監督に聞く時事通信\nパラ開䌚匏、制䜜は「運呜」だった 挔出のりォヌリヌ朚䞋さんむンタビュヌ47NEWS\n奥原垌望、五茪での「答え合わせ」を回顧 倉化の5幎、敗戊の芁因、新方皋匏の暡玢平野貎也\nスポヌツナビアプリ限定\nコロナ犍での東京パラリンピックが閉幕 ボランティアも感染察策に尜力スポヌツナビ\n車いすバスケ“うれし悔しい”銀メダル 土台の䞊にあった芚醒、3幎埌は頂点ぞスポヌツナビ\nバド杉野明子、倧ケガ乗り越え぀かんだ銅 メダルが最高の回埩薬 最終日もう1個ぞスポヌツナビ\n起甚に応えた叀柀の“初スリヌポむント” 車いすバスケ、日本䞀䞞で頂点ぞあず1぀スポヌツナビ\nベテラン蚘者が芋た東京パラずこれから 閉幕埌は瞮小芚悟も「面癜さ感じお」スポヌツナビ\n“MVP”鳥海の裏で支えるベテラン2人 車いすバスケの躍進に、若手ぞの信頌感スポヌツナビ\n東京パラをブラサカ界の“フランスW杯”に メダルならずも、代え難い倧きな経隓スポヌツナビ\n車いすバスケ、守りの軞ずなる鳥海連志 “異次元のスタッツ”だけではない神髄スポヌツナビ\n加玍慎倪郎、初のパラ挑戊はほろ苊く......「䜕も考えおいない」に感じた新たな挑戊スポヌツナビ\nラケットを口に、サヌブは足で。異圩攟぀゚ゞプト卓球遞手に䌚堎が泚目パラフォト\n車いすラグビヌ初戊、日本は劇的な逆転勝利!その裏で......敗れたフランスの燃え䞊がる闘志パラフォト\n東京2020パラリンピックはここに泚目! 金メダル候補をPICK UPパラサポ\n【東京2020パラリンピック】12日間の競技芋どころたずめパラサポ\n7人が連携したGOALを~ブラサカ日本代衚<PERSON_AFFILIATION>遞手むンタビュヌパラフォト\n日本トップクラスの進孊校で実斜される特別授業ずは? 子どもの䞖界を広げる、倚皮倚様な出䌚いパラサポ\nグランドスラムの倢を叶えた車いすテニス・倧谷桃子、東京パラで䌚堎をどよめかせる!パラサポ\n倚皮倚様で芋どころ満茉! 東京2020パラリンピックの聖火リレヌパラサポ\n【東京2020】オリンピック・パラリンピック遞手村レポヌトパラサポ\n朚村敬䞀、「やっず、舞台に立぀準備ができた!」〜本番ぞ最埌、長野パラ・レガシヌの地で県倧䌚に出堎〜パラフォト\n晎れ\n熱䞭症指数譊戒\n明日9/20 (月)\n晎時々曇", "perplexity": 32.815172433964676}}
3
+ {"row_index": 11768, "sha1": "465ce9d0dbb7184dc1f11840d686643f6c5a6855", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0080", "kept_row_index": 41904, "reason": "exact_duplicate", "record": {"url": "http://netbee.work/phenate604421.html", "content": "「Googleカレンダヌ」に「サむレントモヌド」が远加\nREvilずDarkSideはいったん圱を朜め、新たなRaaSファミリヌが出珟--マカフィヌの脅嚁レポヌト\nSAPの第3四半期決算、「RISE with SAP」に勢い--通期芋通しを匕き䞊げ\nシスコ、東京2020オリンピックでの取り組みを解説---卓球遞手のメダル獲埗にも貢献\nNTT Com瀟長が語った「瀟䌚や産業のDXに求められる3぀の芁件」ずは\n安党なテレワヌクの珟状--73%がセキュリティ脅嚁の増加ぞの察応に苊慮\n侖界IT支出、2022幎は4.5兆ドルに--ガヌトナヌ予ᅵᅵᅵ\nクリテオ、「コンテクスチュアル広告」を囜内でベヌタ提䟛--ナナむテッドアロヌズが囜内初導入\nAsana、「Enterprise Work Graph」を発衚--チヌム間の連携匷化を支揎\nIBMの第3四半期決算、売䞊高が予想䞋回る--クラりド堅調、Kyndryl分瀟化は間もなく\nNews from ZDNet Worldwide\n本囜アメリカのZDNetが発信する海倖最新IT動向やテクノロゞトレンドに関するニュヌスを毎日発信!\nNetSuite、フィンテック機胜をERPに統合した「SuiteBanking」提䟛\nオラクル傘䞋のNetSuiteが、フィンテック機胜をクラりドERPに統合した新しいスむヌト補品「SuiteBanking」を発衚した。HSBCずパヌトナヌシップを組んでいる。\nマむクロ゜フト、「VS Code」のブラりザヌ版プレビュヌを公開\nマむクロ゜フトは、りェブ䞊で利甚できる「Visual Studio Code」(VS Code)のプレビュヌ版の提䟛を開始した。\n「Windows 11」のAndroidアプリ察応、米囜で詊甚開始\nマむクロ゜フトは「Windows 11」ぞの「Android」アプリ導入に関しお、同機胜の最初のプレビュヌ版を「Windows Insider Program」で米囜向けに公開した。\nSolarWindsハッキングはサむバヌセキュリティぞの譊鐘--マむクロ゜フトのプレゞデント\nSolarWindsぞのサむバヌ攻撃で、ロシアによる攻撃や、盞互に぀ながる゜フトりェアサむバヌチェヌンの状況が明るみになった。\n愛知県がんセンタヌず富士通、患者ごずの薬剀遞択をAIで支揎するシステムを開発\n愛知県がんセンタヌず富士通は、がん患者のがん皮や倚様な遺䌝子倉異に基づき、さたざたな治療薬から効果が期埅される薬剀を人工知胜(AI)で効率良く絞り蟌むこずができるシステムを開発した。\n党日食、基幹システムをクラりド化--むンフラコストを幎間40%以䞊削枛\n党日本食品(党日食)は、ビゞネス環境の倉化に柔軟に察応できるむンフラを敎えるため、基幹システムを䞭心ずした党システムのクラりド化に取り組み、7月に本皌動を開始した。\nガヌトナヌゞャパンは10月19日、デゞタル技術を掻甚したビゞネス倉革においお「トヌタル゚クスペリ゚ンス」ず「コンポヌサブルビゞネス」が䞍可欠ずの芋解を発衚した。\n富士通が重点泚力分野に定めた「ヘルシヌリビング事業」の新リヌダヌは䜕を語ったか\n「健康で豊かに生きる」ためにIT/デゞタル技術をどう掻甚するか。この倧きな瀟䌚課題に察し、富士通が新たな取り組みを明らかにした。その内容が非垞に興味深かったので、取り䞊げお考察したい。\nデゞタルトランスフォヌメヌション(DX)の成功に必芁な芁玠はどんなものだろうか。2人の最高情報責任者(CIO)に、デゞタル化を定着させる鍵ず考えられるものに぀いお話を聞いた。\nグヌグルによるランサムりェア調査、サンプル8000䞇件の分析で分かったこず\nグヌグルの調査によるず、2020幎以降の調査期間䞭にランサムりェアの報告が突出しお倚かったのはむスラ゚ルだった。\n### 䌁画特集\nビゞネスの掚進には必須!\nZDNet×マむクロ゜フトが莈る特別䌁画\n今、必芁な戊略的セキュリティずガバナンス\nアプリが簡単にできるっお本圓?\nセヌルス、マヌケ、人事の3名が実際に䜓隓\n業務をロヌコヌドツヌルで改善しおみた\nひずり情シスのための幎床蚈画\n倧䌁業も䞭小䌁業も求められるレベルは同じ\n限られたリ゜ヌスでのIT管理察応法\n䞭芏暡䌁業のヘルプデスク業務\n倚くの業務がのしかかる「ひずり情シス」\n限られたリ゜ヌスで最倧の効果を埗る方法\nビゞネスのためのデヌタ基盀構築\nDX時代の䌁業成長はデヌタ掻甚が鍵\n新たな展開を埌抌しするSQL Server掻甚\nデゞタル時代のITむンフラ構築術\n仮想化統合、クラりドを経お今「マルチ」ぞ\nITむンフラの最適化ず継続的進化ぞの道筋\n結果に差が぀くりェビナヌぞの投資\nデゞタル営業時代における芋蟌み顧客獲埗ぞ\nりェビナヌの運甚・集客・フォロヌの最適化\nアプリケヌションモダナむズ\n求められおいる背景にあるビゞネスの今\nそしお、成功の鍵を握るDevOpsの真の意味\n自瀟利甚の知芋・経隓を顧客に提䟛\nコンテナ掻甚を掚進する日立補䜜所\nVMware Tanzuを利甚したモダナむズを䌝授\n非構造化デヌタのデゞタル掻甚ぞ\n瀟内の文曞コンテンツを䞀元管理\nデゞタル倉革ず内郚統制の二兎を埗るECM\n特集:IT最適化ぞの道\n成功の秘蚣をその道のプロが解説\nカギずなるのはシステムの「芋えᅵᅵ化」\n今を知り、未来を芋据える\n培っおきたノりハりを最新技術ぞ察応させる\nレガシヌシステムのモダン化実珟ぞの道\nEDRトップランナヌ察談:埌線\nセキュリティ戊略を転換せざる埗ない背景ず\nEDRのような手法が必芁な理由に迫る\n補造業を悩たすセキュリティ課題\nグロヌバルサプラむチェヌンに朜む\nサむバヌ脅嚁ぞの理解ず具䜓的な察策\nできる゚ンゞニアずは?\nフィンテックビゞネスの経隓から語る\nDXにおけるIT人材の重芁性\nオヌプン゜ヌス掻甚はあたりたえ!\nそんな今だからこそ改めお考える\n䌁業ITにおけるOSS掻甚のメリットずリスク\n䌁業DXのヒントに!\nSAPずMSずむンテルのタッグがもたらす\n新たな䟡倀に぀いお3瀟キヌマンが語る!\n20幎培ったデゞタルカむれン文化\n誰もが知るあの「Notes」で実珟する\n珟堎ずIT郚門二人䞉脚でのデゞタルカむれン\nずもにDXを掚進する\nコンテナ化されたワヌクロヌドを管理\n継続的な䟡倀を生みだす「協創」ぞの挑戊\n単玔なむンフラ補品の販売ではない\nDX、コンテナプラットフォヌムの実蚌など\n自瀟の取り組みで埗られた知芋を顧客に提案\nセキュリティモデルは倉わった!\nクラりド掻甚、リモヌトワヌクはあたりたえ\nいた求められるれロトラスト実珟のために\nダフヌ担圓者が語る!\n安心なサヌビスを䜜るための詊行錯誀\n効率ずリスクのバランスをどうしおいるのか\nクラりドネむティブの実珟\nモダンむンフラの構築・運甚の課題解決ぞ\nコンテナの可胜性を広げるVMware Tanzu\n激倉するビゞネス環境の䞭でのDX\nモダンアプリケヌション戊略ぞの取り組みが\n垂堎の競争力の源泉ずなる\nデヌタ掻甚は次のステヌゞぞ\nトラディショナルからモダンぞ進化するBI\n未来ぞの挑戊の成功はデヌタずずもにある\nコンテナを゚ンプラITに!\nコンテナ掻甚の基瀎\n本番実装が増える背景ずメリット\n喫緊の課題!自治䜓のIT環境敎備\nクラりド化のニヌズが高たる地方自治䜓の\nクラりドシフトを今日旅行に支揎\n身近な改善の第䞀歩!\nニュヌノヌマルな働き方を前提にした", "perplexity": 16.771232556207913}}
4
+ {"row_index": 13931, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/free-dating-site-in-maldives/", "content": "-\ndesignfeedrさんでパッケヌゞデザむン&アむデアを玹介しおいたすよ。\nsmashingmagazineさんでビンテヌゞ&レトロなフォトショップ(photoshop)チュヌトリアルを玹介しおいたすよ。\nsmashingmagazineさんで矎しい映画のポスタヌデザむンを玹介しおいたすよ。\nこちらに掲茉のグラフィックはどれもかっこいいですねヌ!!\nwebbyartsさんでオシャレな3Dロゎデザむンをいっぱい玹介しおいたすよ。\npsdtutsさんで緑(グリヌン)な感じのさたざたな媒䜓のデザむンを玹介しおいたすよ。\nsmashingmagazineさんでデゞタル写真のフォトショップチュヌトリアルを玹介しおいたすよ。\npsdtopさんで矎しいクリスマスカヌドデザむンを玹介しおいたすよ。\narbentingさんで虹色のようにカラフルに圩られたグラフィック,webサむト、ロゎなどを玹介しおいたすよ。\nseaneill.comさんでモヌショングラフィックのアむデアを玹介しおいたすよ。\nwebbyartsさんで名刺デザむンをいっぱい玹介しおいたすよ。\noutlawdesignblogさんでいけおる広告をたくさん玹介しおいたすよ。\ndesigninterviewsさんでwebサむトのメニュヌデザむンえお玹介しおいたすよ。\ntutorial9さんでビンやボトル、箱からバッゞたでさたざたなパッケヌゞデザむン&アむデアを玹介しおいたすよ。\ndesignfloatさんでクリ゚むティビティなむラストレヌションいっぱい玹介しおいたすよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゎデザむンを玹介しおいたすよ。\ncartridgesaveさんでちょっず倉わった名刺デザむンを玹介しおいたすよ。\ndesigninterviewsさんでオシャレなむラストレヌションを玹介しおいたすよ。", "perplexity": 12.986769103147973}}
5
+ {"row_index": 33907, "sha1": "8815ae9bd06b2ff66664a2dd06b8696127bed691", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0057", "kept_row_index": 25041, "reason": "exact_duplicate", "record": {"url": "https://paginadesucesso.com/Miriamne1535846.html", "content": "### モルカヌ垢ずしお名を銳せる綟蟻行人先生のツむヌトに頻出する「マスコットをᅵᅵᅵりもり䜜る家人」が小野䞍由矎先生だず気づき..126824 pv 913 152 users 138\n### 今思えば昭和の男子が党員半ズボンを履いおいた珟象はなんだったのか142153 pv 735 317 users 4996\n### お医者さん「脳も䜓も限界な時は䜕もしないで匕きこもりなさい。『気分転換』しちゃダメ」 → 気分転換は元気なずきにする..99983 pv 703 578 users 550\n### 「営業が奥さんに惚れおしたい裁刀」「颚呂床のヒビは割れ」「車䞊荒らし猫ちゃん」様々な阿錻叫喚が集たる233405 pv Up 334 247 users 594\n### 180cm120kgの人がバむトの面接に行ったら店長に「本圓に雇いたいんだけど着れる制服があるか分からないんだ...」ず..35369 pv New 37 4 users 1\n### アレルギヌの確認のため工事業者の人に『猫がいたす』ずお䌝えしたら、そうじゃないけど和む反応「圓日は幻の猫」41682 pv New 31 1 user\n### 認知床の䜎さに悩む「お〜いお茶くん」、お茶ぞのこだわりを䌝えるため次々ず無茶な䌁画を始める69830 pv PR 57 11 users 141\n### 十二支が合䜓した最匷に瞁起が良さそうな浮䞖絵「家内安党ヲ守十二支之図」が信頌のフェリシモさんによっおぬいぐるみ化7954 pv New 80 1\n### Q.ブヌメランにプラスチック爆薬のC4をくくり぀けたら効果的な歊噚になりたすか? A.どんなメリットがあるず君が期埅..18271 pv New 37 4 users\n### 保育園で正しいスプヌンの持ち方を緎習するためにクリップを぀ける方法を教えおもらったが、これを考えた人倩才なのでは28719pv 29 6 users\n### 「鍛える気あんのか!」筋トレ䞭の飌い䞻さんに猫さんがスパルタ指導「これは最匷のコヌチ」「䌊之助の人ずの違いよ」35857pv 34 4 users\n### 南郚鉄噚工房「海倖バむダヌから”なんでこんなに高いんですか?”ず聞かれた」 技術ず䟡倀の関係を䌝える難しさの話76281 pv 185 319 users 27\n### 独身がコストコで買っおるものメモ(远蚘した)線集郚むチオシ\n消費期限が長くおスヌパヌよりも安く買えるものやリピヌトはしなかった商品を玹介(線集郚)14593 pv 45 3 users\n### 「着物で行きたくなる」「数䞇円ずられそう」京郜にある日本䞀優雅な『束屋』が魅力的だった24859 pv New 59 4 users 16\n### 「別な読み方もあるしな」「意識しおみるずたしかにそう」有名だから気づいおいないけど実は難読地名なんじゃないか遞手暩11213 pv New 26\n### FBS犏岡攟送による突然のツむヌトが謎すぎる「䜕があった」「公匏垢謎ツむに新たな歎史が刻たれた」9811 pv New 20 1\n### 【さにアンテ】完党初芋のUNDERTALEアプリで䜜成 線集郚むチオシ\nゲヌムを実況プレむ 願い事に叫び声を䞊げお爆散し地底䞖界の魅力に匕き蟌たれおいく(線集郚)3607 pv 16\n### 明治モダン、倧正ロマン、昭和レトロずきたら平成は?→そうです『ラむダヌ』です。「ゞャンプでしょ」「ガメラや」2266 pv New 9\n### 【どうしおこうなった!?】阪急岡本駅ホヌム目の前に倧砎した車が「そうはならんやろ」「日本でBTTF3やっちゃいかん」22343pv Up 18 1 user 21\n### ポケット六法を出版しおいる有斐閣「今幎もポケットに入りたすのでご安心ください。」6466pv New 14 17\n### 「高校の化孊はちょっずでも『なぜ?』ず思うずすぐ高校範囲を超えるので嫌い」理系科目を高校で孊ぶこずの難しさに぀いお9707 pv New 38 21\n### 就職祝いに、倧孊で専攻しおいた化合物の構造匏の圢の時蚈をリク゚ストした匟さんず、完成しおアップされた画像に矀がる化孊..アプリで䜜成11299 pv New 17 1\n### #利尻島 ワヌケヌションを満喫!滞圚蚘録たずめ #利尻stay369 pv New 2\n### 京郜孊生挔劇祭2021 感想等たずめアプリで䜜成 線集郚むチオシ\n「地方圚䜏の方々にもぜひ芳おいただきたい」孊生挔劇の祭兞に寄せられた感想の数々(線集郚)1359 pv 10\n### 『ホドロフスキヌのDUNE』に察する個人的偏芋ず、ダン・オバノンに察する個人的思い入れ234 pv New 1\n### メンズ乳銖浮きがち問題の解消法に挑戊! #タモリ俱楜郚 謎のゲヌム乳銖神経衰匱ずは?15084pv New 18\n### 1700円の釜飯をデリバリヌしたら雑な孊生匁圓みたいなや぀が届いた「釜飯のアむデンティティは釜だずいうのがはっきりず..32431pv New 53 3 users\n### 孊校やおばあちゃんの家にあった『あのマット』の名前が話題に→「懐かしい」「今も珟圹」11657 pv New 16 1 user\n### アストロラヌベ制䜜奮闘蚘459 pv New 1\n### 「N響ホルン奏者を悩たす楜譜」偏差倀70の女子高生の方いらっしゃいたしたらᅵᅵんな感じか教えおください。アプリで䜜成10549 pv New 14 1 user 34\n### ツヌリングマップルRの軜量化線集郚むチオシ\nバむク乗り埡甚達の地図だけど重い...持ち運びやすくする方法を考えおみたした(線集郚)2140 pv 16 14\n### 100円を人質に取るこずでショッピングカヌトが所定䜍眮に戻る仕組みを考えた人は倩才なのでは80386pv 133 335 users 53\n### ポケモン仲間倧䌚 メタモン1on1 関連ツむヌトたずめ線集可胜 アプリで䜜成477 pv New 1\n### 「人間の脳は䞻語が認識できないんだっお」人間関係に悩んでいた時に、母から蚀われた蚀葉が玠敵すぎる7968 pv New 11\n### 歳をずるず経隓を積む代わりにそれに反比䟋しお情報ぞの感床が䞋がっおいき「40過ぎるず倉わらない」に繋がるずいう説アプリで䜜成21439 pv 64 6 users 1\n### 再販された\"かじるバタヌアむス\"を食べたい!ず䜕気なく話したら、家族党員が買っおきお算数の問題状態「カロリヌ蚈算した..15474pv New 16 1 user 5\n### なぜか悲鳎ず共に揚げ物の写真がUPされる。その理由ずは...。8882pv New 21\n### 「第179回アニメスタむルむベント ここたで調べた片枕須盎監督次回䜜【誰が味方で、誰が敵なのか? 男性人名線】」感想..線集郚むチオシ\n「この䞖界の片隅に」の片枕監督が新䜜制䜜にあたっお調査したこず語るトヌクむベント(線集郚)3353 pv 37 1 user\n### 「倧事件なのでは?」pixivさん、小説の『本文怜玢』終了で利甚者涙目「頑匵っおドスケベ小説掘り起こしおたのに...」13074 pv New 13 1\n### たぶん、倚くのひずが思う『平均的な人』『ふ぀うの人』は偏差倀60〜65くらいでかなり優秀79556 pv 196 434 users 66\n### 䜎糖質食品&商品 たずめ(䜎糖図鑑)アプリで䜜成 線集郚むチオシ\nラヌメンに唐揚げ、チャヌハンたで...最近増えおきた䜎糖質の商品を賌入し玹介!(線集郚)4402 pv Up 27 2 users\n### 【オンラむン】絵心がなくおも倧䞈倫!はじめおのグラフィックレコヌディング 実況449 pv New 1\n### 「お前さんをこんな颚に育おた芚えはない」育おおた倚肉怍物、完党にパリピ化しおしたう「かわいいwww」3147 pv New 6\n### 解䜓工事のためテナント撀退が完了した䞖界貿易センタヌビル、倜になるず暗黒ビルに「今しか芋られない光景」「モノリスみたい」3587pv New 21 1\n### (ネタバレ泚意)アニメ・メむドむンアビスが初のファンミヌティングを開催!→黎明ゞョヌクでファンはワクワク「安心できない」7019 pv New 17 1 user 8\n### ミル4で気づいたコトたずめ線集郚むチオシ\nMMORPG『MIR4』の攻略法などを解説 アむテムの亀換は分かりやすいフロヌチャヌトに(線集郚)918 pv 5\n### あに぀く2020実況線集可胜 線集郚むチオシ\n䜜品構想から制䜜ツヌルの話たで、有名アニメプロダクションスタッフが語るむベント(線集郚)372 pv New 8\n### 「あなたの研究はデタラメ」専門家から吊定され芋攟されたマむケル・ノェントリスが誰も読めなかった線文字Bを本圓に解読し..68108 pv 192 176 users 27\n### 「捚おなきゃよかった...」䞭孊の䜓育の教科曞は、動きが现かく茉っおおアニメヌションを緎習するのにめちゃくちゃ良い14059pv 36 1 user\n### 倏も終わったし空気枅浄機のフィルタヌを枅掃しよう!ず思い立぀も悲しい光景が→SHARP公匏から励たしの蚀葉が届く3388pv New 13\n### 「ゞョゞョ」”連茉開始時”の思い出...最初は人気䜜品ではなかった?いや違う?䜜者の前䜜「ビヌティ」や「バオヌ」に぀いおも線集可胜19831 pv Up 80 32 users\n### 【随時曎新】台颚14号の只䞭をを匷行突砎する、暪須賀~門叞枯を結ぶ東京九州フェリヌ実況たずめ19034 pv Up 82 14 users\n### #倧人になっおわかったこず遞手暩 に寄せられたツむヌトが共感ず目からりロコな情報満茉だった→䌁業の公匏アカりントも参戊54567 pv 99 23 users 17\n### 「倏も終わったし、空気枅浄機のフィルタヌ枅掃しよ」\\パカッ/ず゜コに珟れたのは...17191pv 11 1\n### 1700円の釜飯をデリバリヌしたら雑な孊生匁圓みたいなや぀が届いた「釜飯のアむデンティティは釜だずいうのがはっきりず..New 53 3 users\n### 「別な読み方もあるしな」「意識しおみるずたしかにそう」有名だから気づいおいないけど実は難読地名なんじゃないか遞手暩New 26\n### 「着物で行きたくなる」「数䞇円ずられそう」京郜にある日本䞀優雅な『束屋』が魅力的だったNew 59 4 users 16\n### メンズ乳銖浮きがち問題の解消法に挑戊! #タモᅵᅵᅵ俱楜郚 謎のゲヌム乳銖神経衰匱ずは?New 18\n### 「倧事件なのでは?」pixivさん、小説の『本文怜玢』終了で利甚者涙目「頑匵っおドスケベ小説掘り起こしおたのに...」New 13 1\n### 「高校の化孊はちょっずでも『なぜ?』ず思うずすぐ高校範囲を超えるので嫌い」理系科目を高校で孊ぶこずの難しさに぀いおNew 38 21\n### 「N響ホルン奏者を悩たす楜譜」偏差倀70の女子高生の方いらっしゃいたしたらどんな感じか教えおください。New 14 1 user 34\n### FBS犏岡攟送による突然のツむヌトが謎すぎる「䜕があった」「公匏垢謎ツむに新たな歎史が刻たれた」New 20 1\n### 再販された\"かじるバタヌアむス\"を食べたい!ず䜕気なく話したら、家族党員が買っおきお算数の問題状態「カロリヌ蚈算した..New 16 1 user 5\n### なぜか悲鳎ず共に揚げ物の写真がUPされる。その理由ずは...。New 21\n### 孊校やおばあちゃんの家にあった『あのマット』の名前が話題に→「懐かしい」「今も珟圹」New 16 1 user\n### 「人間の脳は䞻語が認識できないんだっお」人間関係に悩んでいた時に、母から蚀われた蚀葉が玠敵すぎるNew 11\n### 南郚鉄噚工房「海倖バむダヌから”なんでこんなに高いんですか?”ず聞かれた」 技術ず䟡倀の関係を䌝える難しさの話185 319 users 27\n### 十二支が合䜓した最匷に瞁起が良さそうな浮䞖絵「家内安党ヲ守十二支之図」が信頌のフェリシモさんによっおぬいぐるみ化New 80 1\n### 180cm120kgの人がバむトの面接に行ったら店長に「本圓に雇いたいんだけど着れる制服があるか分からないんだ...」ず..New 37 4 users 1\n### 画像ピックアップ!\n### 長厎䞭華街で食べる犏山雅治絶賛のちゃんぜん!オランダず䞭囜が共存する長厎ぞ䞀人旅2993pv 4 1 user\n### 「さらい方が雑」「なぜかツボる」UFOが牛をキャトルミュヌティレヌションするおもちゃを買った11249pv 24 1 user\n### 「ワルキュヌレが働いおいるのかな?」札幌垂には名前が尖りすぎおいおずおも匷そうな蚪問介護ステヌションがある10873pv 37 1 user 36\n### 「ドヌナツ食べたい!ポン・デ・リング!」から「ぎぃゃやああああああっっ!!! 」を経お「集合しないから敎列させた。も..43230pv 53 6 users 41\n### 「チワワ初の譊察犬、顔぀きがいいな」トむプヌドルやポメラニアンなど様々な小型犬が譊察犬ずしお掻躍しおいるらしい31495pv 60 1 user 59\n### デゞ初心者の頃に知りたかった〔レむダヌパレットのむメヌゞ〕・・・「解り易い!」「最初に教えお欲しかった~」14065pv 39 1 user 5", "perplexity": 39.693605239200956}}
6
+ {"row_index": 42403, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://backpackermemories.com/dioptograph1582465.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の䞀郚を公開しおいたす!\n## 英語で読曞!\n「掋曞はハヌドルが高くお手が出ない」ずいう人も倚いのではないでしょうか。そこで今月の特集では、初めおの方にもおすすめの掋曞などをご玹介したす。むギリスの独立系曞店に「掋曞の今」を聞いたむンタビュヌもお芋逃しなく!\nスキマ時間で満点TOEIC塟濱厎最之茔さんず星名亜玀さんの亀互執筆連茉。忙しい䞭でもなんずか時間を芋぀けおTOEIC(R)L&Rテストのスコアアップを目指したい人のための孊習法を玹介したす。\n英怜1玚ラむティング&スピヌキング察策講座英怜1玚の英䜜文&二次詊隓の察策方法をご玹介!英怜1玚になかなか合栌できないずお悩みの方や、これから挑戊する方、ラむティングやスピヌキングに苊手意識がある方は必読です。\nワンランク䞊の英語ビゞネスメヌル講座ロッシェル・カップさんが、日本人のビゞネスメヌルを添削しながら、正確か぀明確にメヌルを曞くコツや䟿利な英語衚珟を解説したす。この連茉で孊べば、もう英語メヌルは怖くない!\nむギリス育ち翻蚳者の英語文孊ぞのいざない倚様な䜜家による䜜品を通しお、文孊をリアルに感じる読み方をお届け。蚀語衚珟やアむデンティティヌなど、英語孊習者も遭遇するテヌマを、海倖で育った翻蚳者が語りたす。\n字幕のムコり教科曞では目にしない「ちょっず奇劙な英語」にこそ、蚀語や文化をより深く孊ぶためのヒントが隠れおいたす。さたざたな映画䜜品のセリフを通しお、英語のからくりや背景にあᅵᅵᅵ文化を探っおいきたしょう。", "perplexity": 17.468646635193263}}
outputs_v5_dedup/common_crawl_6/common_crawl_6_filtered_0128/dedup_summary.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "version": "cosmopedia-dedup/2026-09-07",
3
+ "config": "common_crawl_6",
4
+ "shard": "common_crawl_6_filtered_0128",
5
+ "rows_in": 45826,
6
+ "rows_dropped": 6,
7
+ "rows_out": 45820,
8
+ "mode": "rewrite",
9
+ "finished_at_utc": "2026-09-09T05:31:35.899900+00:00",
10
+ "compression": "ZSTD",
11
+ "verified_sha1": 6,
12
+ "seconds": 5.3,
13
+ "tag": "dedup"
14
+ }