Download scripts/99_test_models.py from ddokbaro/chosunilbo-analysis: direct link, hf CLI and curl.
- Browser
- Download file 3.59 kB
-
https://huggingface.co/datasets/ddokbaro/chosunilbo-analysis/resolve/main/scripts/99_test_models.py
- Command line
-
hf download hf://datasets/ddokbaro/chosunilbo-analysis/scripts/99_test_models.py
-
curl -L -o 99_test_models.py https://huggingface.co/datasets/ddokbaro/chosunilbo-analysis/resolve/main/scripts/99_test_models.py
3.59 kB
| import os | |
| from huggingface_hub import hf_hub_download | |
| # ---------------------------------------- | |
| # 1. 설정 (이곳을 수정하여 테스트 대상을 변경할 수 있습니다) | |
| # ---------------------------------------- | |
| # 테스트할 모델 타입을 선택하세요: 'word2vec' 또는 'fasttext' | |
| MODEL_TYPE = 'word2vec' | |
| # [핵심 수정] 테스트할 시간 단위를 선택하세요: 'yearly' 또는 'decade' | |
| TIME_UNIT = 'decade' | |
| # Hugging Face 모델 저장소 ID | |
| MODEL_REPO_ID = "ddokbaro/chosunilbo-LMs" | |
| # 테스트할 연도(yearly) 또는 시대(decade)와 키워드 목록 | |
| if TIME_UNIT == 'yearly': | |
| UNITS_TO_TEST = [1935, 1955, 1975, 1995] | |
| else: # decade | |
| UNITS_TO_TEST = [1930, 1950, 1970, 1990] | |
| KEYWORDS_TO_TEST = ['경제', '민주주의', '여성', '미래'] | |
| # ---------------------------------------- | |
| # 2. 라이브러리 동적 임포트 | |
| # ---------------------------------------- | |
| if MODEL_TYPE == 'word2vec': | |
| from gensim.models import Word2Vec | |
| elif MODEL_TYPE == 'fasttext': | |
| import fasttext | |
| else: | |
| raise ValueError("MODEL_TYPE은 'word2vec' 또는 'fasttext'여야 합니다.") | |
| # ---------------------------------------- | |
| # 3. 모델 테스트 함수 | |
| # ---------------------------------------- | |
| def test_model(unit, keywords): | |
| """ | |
| 지정된 시간 단위의 모델을 Hugging Face Hub에서 다운로드하여 테스트를 수행합니다. | |
| """ | |
| print("\n" + "="*50) | |
| print(f" T E S T : {unit}년대 {MODEL_TYPE.upper()} 모델") | |
| print("="*50) | |
| try: | |
| # Hugging Face Hub에서 모델 다운로드 경로 설정 | |
| if MODEL_TYPE == 'word2vec': | |
| filename = f"word2vec/{TIME_UNIT}/word2vec_{unit}.model" | |
| else: # fasttext | |
| filename = f"fasttext/{TIME_UNIT}/fasttext_{unit}.bin" | |
| model_path = hf_hub_download(repo_id=MODEL_REPO_ID, filename=filename) | |
| # 모델 로드 | |
| if MODEL_TYPE == 'word2vec': | |
| model = Word2Vec.load(model_path) | |
| vocab_size = len(model.wv.index_to_key) | |
| else: # fasttext | |
| model = fasttext.load_model(model_path) | |
| vocab_size = len(model.words) | |
| print(f"결과: 모델 로드 성공.") | |
| print(f" - 총 학습된 어휘 수: {vocab_size} 개") | |
| # 키워드별 유사어 탐색 | |
| for keyword in keywords: | |
| print(f"\n--- 키워드 '{keyword}'의 유사어 Top 10 ---") | |
| try: | |
| if MODEL_TYPE == 'word2vec': | |
| if keyword in model.wv: | |
| similar_words = model.wv.most_similar(keyword, topn=10) | |
| for word, score in similar_words: | |
| print(f" - {word}: {score:.4f}") | |
| else: | |
| print(f" - '{keyword}' 단어가 해당 모델의 어휘 목록에 없습니다.") | |
| else: # fasttext | |
| similar_words = model.get_nearest_neighbors(keyword, k=10) | |
| for score, word in similar_words: | |
| print(f" - {word}: {score:.4f}") | |
| except Exception as e: | |
| print(f" - '{keyword}' 유사어 탐색 중 오류 발생: {e}") | |
| except Exception as e: | |
| print(f"모델 테스트 중 오류 발생: {e}") | |
| # ---------------------------------------- | |
| # 4. 메인 실행 로직 | |
| # ---------------------------------------- | |
| if __name__ == "__main__": | |
| for unit in UNITS_TO_TEST: | |
| test_model(unit, KEYWORDS_TO_TEST) | |
| print("\n" + "="*50) | |
| print("모든 테스트가 완료되었습니다.") | |