import os from huggingface_hub import hf_hub_download # ---------------------------------------- # 1. 설정 (이곳을 수정하여 테스트 대상을 변경할 수 있습니다) # ---------------------------------------- # 테스트할 모델 타입을 선택하세요: 'word2vec' 또는 'fasttext' MODEL_TYPE = 'word2vec' # [핵심 수정] 테스트할 시간 단위를 선택하세요: 'yearly' 또는 'decade' TIME_UNIT = 'decade' # Hugging Face 모델 저장소 ID MODEL_REPO_ID = "ddokbaro/chosunilbo-LMs" # 테스트할 연도(yearly) 또는 시대(decade)와 키워드 목록 if TIME_UNIT == 'yearly': UNITS_TO_TEST = [1935, 1955, 1975, 1995] else: # decade UNITS_TO_TEST = [1930, 1950, 1970, 1990] KEYWORDS_TO_TEST = ['경제', '민주주의', '여성', '미래'] # ---------------------------------------- # 2. 라이브러리 동적 임포트 # ---------------------------------------- if MODEL_TYPE == 'word2vec': from gensim.models import Word2Vec elif MODEL_TYPE == 'fasttext': import fasttext else: raise ValueError("MODEL_TYPE은 'word2vec' 또는 'fasttext'여야 합니다.") # ---------------------------------------- # 3. 모델 테스트 함수 # ---------------------------------------- def test_model(unit, keywords): """ 지정된 시간 단위의 모델을 Hugging Face Hub에서 다운로드하여 테스트를 수행합니다. """ print("\n" + "="*50) print(f" T E S T : {unit}년대 {MODEL_TYPE.upper()} 모델") print("="*50) try: # Hugging Face Hub에서 모델 다운로드 경로 설정 if MODEL_TYPE == 'word2vec': filename = f"word2vec/{TIME_UNIT}/word2vec_{unit}.model" else: # fasttext filename = f"fasttext/{TIME_UNIT}/fasttext_{unit}.bin" model_path = hf_hub_download(repo_id=MODEL_REPO_ID, filename=filename) # 모델 로드 if MODEL_TYPE == 'word2vec': model = Word2Vec.load(model_path) vocab_size = len(model.wv.index_to_key) else: # fasttext model = fasttext.load_model(model_path) vocab_size = len(model.words) print(f"결과: 모델 로드 성공.") print(f" - 총 학습된 어휘 수: {vocab_size} 개") # 키워드별 유사어 탐색 for keyword in keywords: print(f"\n--- 키워드 '{keyword}'의 유사어 Top 10 ---") try: if MODEL_TYPE == 'word2vec': if keyword in model.wv: similar_words = model.wv.most_similar(keyword, topn=10) for word, score in similar_words: print(f" - {word}: {score:.4f}") else: print(f" - '{keyword}' 단어가 해당 모델의 어휘 목록에 없습니다.") else: # fasttext similar_words = model.get_nearest_neighbors(keyword, k=10) for score, word in similar_words: print(f" - {word}: {score:.4f}") except Exception as e: print(f" - '{keyword}' 유사어 탐색 중 오류 발생: {e}") except Exception as e: print(f"모델 테스트 중 오류 발생: {e}") # ---------------------------------------- # 4. 메인 실행 로직 # ---------------------------------------- if __name__ == "__main__": for unit in UNITS_TO_TEST: test_model(unit, KEYWORDS_TO_TEST) print("\n" + "="*50) print("모든 테스트가 완료되었습니다.")