Download main.py from menesnas/SemanticTextualSimilarityDataset: direct link, hf CLI and curl.
- Browser
- Download file 11.3 kB
-
https://huggingface.co/datasets/menesnas/SemanticTextualSimilarityDataset/resolve/main/main.py
- Command line
-
hf download hf://datasets/menesnas/SemanticTextualSimilarityDataset/main.py
-
curl -L -o main.py https://huggingface.co/datasets/menesnas/SemanticTextualSimilarityDataset/resolve/main/main.py
11.3 kB
| import pandas as pd | |
| from sentence_transformers import SentenceTransformer | |
| from sentence_transformers.util import cos_sim | |
| import torch | |
| torch.cuda.is_available() | |
| # (Bu model cümleleri anlamsal vektörlere dönüştürür) | |
| model_name = "paraphrase-multilingual-mpnet-base-v2" | |
| print("Model yükleniyor...") | |
| model = SentenceTransformer(model_name) | |
| data = [ | |
| {"sentence1": "Sabahları erkenden kalkıp yürüyüş yapmayı çok severdi.", "sentence2": "Gözleri ekrana kilitlenmişti, karakterlerle birlikte replikleri mırıldanıyordu.", "humanScore": 12.51}, | |
| {"sentence1": "Hava bugün çok yağmurlu.", "sentence2": "Bugün dışarıda şiddetli yağış var.", "humanScore": 86.74}, | |
| {"sentence1": "En zengin insan, en güçlü arkadaşlara sahip olan insandır.", "sentence2": "Borsada en çok kazandıran yatırımcıdır.", "humanScore": 38.12}, | |
| {"sentence1": "Yaşamak için toprağımız olmayabilir, ama ölmek için toprak bulunur nasıl olsa.", "sentence2": "Bir ulusun, bir topluluğun, bir ailenin kültürel zenginliğini ve kimliğini oluşturan ögelerdir.", "humanScore": 0.78}, | |
| {"sentence1": "Sıcakta yürüyüş yaparken müziğin sesini sonuna kadar açtım.", "sentence2": "Oda sıcaklığının 20 derece olması beni konforlu hissettiriyor.", "humanScore": 53.54}, | |
| {"sentence1": "Haydi seninle saklambaç oynayalım", "sentence2": "Oyunun kuralları çok kolay, hemen öğrenebilirsin.", "humanScore": 87.23}, | |
| {"sentence1": "Bir kişi olman, kişiliğin olduğu anlamına gelmez.", "sentence2": "Bugün anneler günü, ona bir çiçek almalıyım.", "humanScore": 17.91}, | |
| {"sentence1": "Otobüsü kaçırınca işe geç kaldım.", "sentence2": "Servisi kaçırdığım için ofise zamanında varamadım.", "humanScore": 91.29}, | |
| {"sentence1": "Eve gitmek için otobüse bindim.", "sentence2": "Akşam eve yürüyerek döndüm.", "humanScore": 51.45}, | |
| {"sentence1": "Yaşamak her şeye rağmen iz bırakmaktır yeryüzünde.", "sentence2": "Uzaya fırlatılacak roketin yakıtı sızdırıyordu.", "humanScore": 11.61}, | |
| {"sentence1": "Sarı-lacivertli taraftarların bir kısmı, Mert Günok'un sergilediği başarılı form grafiği sonrası Ederson ile yolların ayrılmasını ve kalenin Mert'e emanet edilmesini talep ediyordu.", "sentence2": "Fotoğraf yarışmasında sarı-lacivert tonlara sahip bir kanarya birincilik ödülünü kazandı.", "humanScore": 23.61}, | |
| {"sentence1": "Sabah kahvaltısında taze peynir, zeytin ve domates yedikten sonra sıcak çayımı içip işe gitmek için evden çıktım.", "sentence2": "Güne taze peynir, zeytin, domates ve bir bardak çay eşliğinde kahvaltı yaparak başladım, ardından hazırlanıp ofise doğru yola çıktım.", "humanScore": 94.57}, | |
| {"sentence1": "Kütüphanede herkes sessizce ders çalışırken o da bir köşeye oturup romanını büyük bir dikkatle okumaya devam etti.", "sentence2": "Kütüphanede telefonuyla yüksek sesle konuşmaya başlayınca diğer öğrenciler rahatsız oldu ve görevli tarafından uyarıldı.", "humanScore": 63.69}, | |
| {"sentence1": "Yeni satın aldığım dizüstü bilgisayar güçlü işlemcisi sayesinde büyük projeleri çok kısa sürede derleyebiliyor ve oldukça akıcı çalışıyor.", "sentence2": "Babam da yıllardır kullandığı eski bilgisayarını yenilemek için araştırma yapıyor ama yeni modellerden hangisini alacağı konusunda kararsız kalıyordu.", "humanScore": 78.69}, | |
| {"sentence1": "Kedim her sabah pencerenin önüne uzanıp saatlerce dışarıdaki kuşları izledikten sonra güneş alan yerde uyumayı çok seviyor.", "sentence2": "Haberlerde büyük bir meteorun şehir merkezine düşeceğini anlatıyorlardı.", "humanScore": 7.9}, | |
| {"sentence1": "Üniversite sınavına hazırlanabilmek için bütün gece boyunca test çözdü, eksik olduğu konuları tekrar etti ve neredeyse hiç uyumadı.", "sentence2": "Cüzdanımda nakit olmadığı için pazardayken domates, patlıcan, karpuz, patates alamadım ve eve elim boş döndüm.", "humanScore": 0}, | |
| {"sentence1": "Uzaydaki astronotlar canlı yayına bağlanarak Dünya'ya selam yolladılar.", "sentence2": "Yeni doğan çocuğunun ismini Uzay koydu.", "humanScore": 20.50}, | |
| {"sentence1": "Türkiye, II. Dünya Savaşı'nda tarafsızdı, ancak Ekim 1939'da İngiltere ile, Almanya'nın Türkiye'ye saldırması halinde İngiltere'nin Türkiye'yi savunacağını belirten bir anlaşma imzaladı.", "sentence2": "II. Dünya Savaşı'nın patlak vermesi üzerine Türkiye, başlangıçta tarafsız kalmayı tercih etmiş olsa da, savaşın ilerleyen dönemlerinde stratejik konumu nedeniyle önemli bir rol üstlenmiştir.", "humanScore": 68.80}, | |
| {"sentence1": "Bir fikri çalabiliyorsanız, neden onun yerine bir fikir ekmiyorsunuz", "sentence2": "Dinlenmek için bilgisayarımdaki en sevdiğim oyunu oynadım.", "humanScore": 0}, | |
| {"sentence1": "Bence olumlu duygular her zaman olumsuz duyguların önüne geçer.", "sentence2": "Hayatın anlamının mutluluğun peşinde koşmak olduğunu düşünüyordu.", "humanScore": 41.80}, | |
| {"sentence1": "Düşünceleri o kadar çarpıktı ki, bazen kendini bile kandırabiliyordu", "sentence2": "Uyuşturucu, beynin kimyasal dengesini bozarak kişinin gerçeği algılamasını zorlaştıran bir maddedir.", "humanScore": 20.50}, | |
| {"sentence1": "Kütüphaneye gidip ders notlarını yazmak yerine, arkadaşlarıyla kafede oturup sohbet etmeyi tercih etti", "sentence2": "Kütüphanede ders çalışmak için sakin bir köşe aradım ama yer bulamadım, bu yüzden salonda oturup dersime devam ettim.", "humanScore": 77.65}, | |
| {"sentence1": "Sınav stresiyle başa çıkabilmek için derin nefes egzersizleri yapmaya başladı.", "sentence2": "Sınav stresi altında ezildiğini hissediyordu, bu yüzden doktoru ona sakinleştirici bir ilaç verdi.", "humanScore": 72.90}, | |
| {"sentence1": "Yaşadığı hayal kırıklığına rağmen ayakta kalmayı başardı.", "sentence2": "Yaşadığı hayal kırıklığı, onu daha güçlü bir insana dönüştürdü.", "humanScore": 83.63}, | |
| {"sentence1": "Doktor ameliyata geç kaldı.", "sentence2": "Ameliyatı yapacak hekim gecikti.", "humanScore": 97.85}, | |
| {"sentence1": "Dünyanın en güzel şehri Malatyadır.", "sentence2": "Malatya güzellikleriyle bilinen bir şehirdir.", "humanScore": 80.0}, | |
| {"sentence1": "Çocuk parkta oyun oynuyor.", "sentence2": "Parkta çocuklar var.", "humanScore": 95.0}, | |
| {"sentence1": "Dünyanın uydusu Ay'dır.", "sentence2": "Dünyanın uydusu Mars'dır.", "humanScore": 25.0}, | |
| {"sentence1": "Hava çok sıcak.", "sentence2": "İki farklı asal sayının EBOB'u 1'dir.", "humanScore": 0.0}, | |
| {"sentence1": "İzafiye teorisini Einstein buldu.", "sentence2": "Karpuz adananın meşhur meyvesidir.", "humanScore": 0.0}, | |
| {"sentence1": "Telefonlar iletişim araçlarıdır.", "sentence2": "Samsung ve Apple öncü telefon markalarındandır.", "humanScore": 55.0}, | |
| {"sentence1": "Ali ve Mehmet arkadaştır.", "sentence2": "Mehmet, Ali'nin arkadaşıdır.", "humanScore": 100.0}, | |
| {"sentence1": "12 adet yumurta alabilir miyim?", "sentence2": "1 düzine yumurta alabilir miyim?", "humanScore": 100.0}, | |
| {"sentence1": "Gençler futbol oynamayı severler.", "sentence2": "Filenin Sultanları başarı üstüne başarı kazanıyor.", "humanScore": 20.0}, | |
| {"sentence1": "Siyah bir geceye açtı gözlerini.", "sentence2": "Kara bir gece vakti açtı gözlerini.", "humanScore": 100.0}, | |
| {"sentence1": "Dünya kendi etrafında dönüyor.", "sentence2": "Kendi etrafında ve birbiri etrafında dönen gezegenler vardır.", "humanScore": 70.0}, | |
| {"sentence1": "Nolan Odyssey filmini IMAX kamera teknolojisi ile çekti.", "sentence2": "İstanbulda sadece 4 adet imax sinema salonu vardır.", "humanScore": 35.0}, | |
| {"sentence1": "Savaşlar yüksek maddi ve manevi hasar bırakır.", "sentence2": "İnsan hakları bildirisi yayınlandı.", "humanScore": 20.0}, | |
| {"sentence1": "Yapay zeka yüksek teknolojili bir genelleme yöntemidir.", "sentence2": "Yapay zeka çok zeki.", "humanScore": 65.0}, | |
| {"sentence1": "Veri bankaları sınav zamanında çok önemlidir.", "sentence2": "Soru bankaları soru pratiği yapmak için uygun bir kaynaktır.", "humanScore": 80.0}, | |
| {"sentence1": "Çay içmeyi çok severim.", "sentence2": "İlk buluşmada kahve içelim.", "humanScore": 65.0}, | |
| {"sentence1": "Öğrenciler birbirlerini instagramdan takip ettiler.", "sentence2": "Kendi aralarında birbirini instadan fallowlayan öğrenciler var.", "humanScore": 100.0}, | |
| {"sentence1": "Gece dışarıda gezmek tehlikelidir.", "sentence2": "Su samurları su da yaşar.", "humanScore": 0.0}, | |
| {"sentence1": "Sanat sanat içindir.", "sentence2": "Sanat toplum içindir.", "humanScore": 70.0}, | |
| {"sentence1": "İnsanlar memeliler grubundadır.", "sentence2": "Ampül'ün fiyatı 20 TL.", "humanScore": 0.0}, | |
| {"sentence1": "Araba piyasası çok yavaşladı, arabalar satılmıyor.", "sentence2": "NVIDIA Spark ekran kartları çok maliyetli.", "humanScore": 10.0}, | |
| {"sentence1": "Döner Türklerindir.", "sentence2": "Almanya da döner üzerine restorantı olan bazı işletmecile vardır.", "humanScore": 23.0}, | |
| {"sentence1": "Bir elmanın yarısı yarım elmadır.", "sentence2": "İki yarım elma bir tam elma yapar.", "humanScore": 90.0}, | |
| {"sentence1": "Uzaylılar filimlere konu olan imgelerdir.", "sentence2": "Göbeklitepe ilk insanlık yerleşim yeridir.", "humanScore": 5.0}, | |
| {"sentence1": "Teknoloji takip edilmesi gereken Dünya gündemidir.", "sentence2": "Televizyon izlenme oranları geçmiş yıllara göre azaldı.", "humanScore": 0.0} | |
| ] | |
| df = pd.DataFrame(data) | |
| # Cümlelerin vektörlerini (Embedding) çıkarma | |
| print("Vektörler hesaplanıyor...") | |
| embeddings1 = model.encode(df['sentence1'].tolist(), convert_to_tensor=True) | |
| embeddings2 = model.encode(df['sentence2'].tolist(), convert_to_tensor=True) | |
| # Kosinüs Benzerliği Hesaplama (0-100 ve 0-1 Normalizasyonu) | |
| cos_scores = [] | |
| cos_scores_norm = [] | |
| for i in range(len(df)): | |
| # i. sentence1 ile i. sentence2 arasındaki kosinüs benzerliği (-1 ile 1 arasında) | |
| similarity = cos_sim(embeddings1[i], embeddings2[i]).item() | |
| # Negatif benzerlikleri 0 kabul edelim | |
| sim_clean = max(0.0, similarity) | |
| # 0-100 ölçeği | |
| score_100 = round(sim_clean * 100, 2) | |
| # 0-1 ölçeğine normalize edilmiş hali (4 basamak hassasiyetle) | |
| score_0_1 = round(sim_clean, 4) | |
| cos_scores.append(score_100) | |
| cos_scores_norm.append(score_0_1) | |
| # Sonuçları dataframe'e ekleme | |
| df['CosScore'] = cos_scores | |
| df['CosScoreNorm'] = cos_scores_norm | |
| # 6. 5 Sütunlu yapıda (sentence1, sentence2, humanScore, CosScore, CosScoreNorm) CSV olarak kaydetme | |
| output_columns = ['sentence1', 'sentence2', 'humanScore', 'CosScore', 'CosScoreNorm'] | |
| df = df[output_columns] | |
| csv_filename = "STS.csv" | |
| df.to_csv(csv_filename, index=False, encoding='utf-8-sig') | |
| print(f"İşlem tamamlandı! Veri seti '{csv_filename}' dosyasına kaydedildi.") | |
| print("\nÖrnek Çıktı:") | |
| print(df.tail(25)) | |