|
|
| --- |
| tags: |
| - bertopic |
| library_name: bertopic |
| pipeline_tag: text-classification |
| --- |
| |
| # BERTopicTelegramAnalysis_small |
| |
| This is a [BERTopic](https://github.com/MaartenGr/BERTopic) model. |
| BERTopic is a flexible and modular topic modeling framework that allows for the generation of easily interpretable topics from large datasets. |
| |
| The model uses data from 32 open Telegram channels were Ukrainian Refugees exchange, we use the model to study refugee needs within Switzerland. |
| |
| NOTE: only samples longer than 100 and smaller than 2500 char are used for modeling |
| |
| ## Usage |
| |
| To use this model, please install BERTopic: |
| |
| ``` |
| pip install -U bertopic |
| ``` |
| |
| You can use the model as follows: |
| |
| ```python |
| from bertopic import BERTopic |
| topic_model = BERTopic.load("kdot/BERTopicTelegramAnalysis_small") |
| |
| topic_model.get_topic_info() |
| ``` |
| |
| ## Topic overview |
| |
| * Number of topics: 30 |
| * Number of training documents: 201891 |
| |
| <details> |
| <summary>Click here for an overview of all topics.</summary> |
| |
| | Topic ID | Topic Keywords | Topic Frequency | Label | |
| |----------|----------------|-----------------|-------| |
| | -1 | это - швейцарии - статус - день - пожалуйста | 58 | -1_это_швейцарии_статус_день | |
| | 0 | беженцев - швейцарии - пожалуйста - подскажите - україни | 110510 | 0_беженцев_швейцарии_пожалуйста_подскажите | |
| | 1 | страховка - страховку - врача - врач - врачу | 31528 | 1_страховка_страховку_врача_врач | |
| | 2 | паспорт - паспорта - письмо - пришло - статус | 12883 | 2_паспорт_паспорта_письмо_пришло | |
| | 3 | мови - языка - курсы - немецкого - англійської | 5190 | 3_мови_языка_курсы_немецкого | |
| | 4 | чат - это - война - людей - войны | 4949 | 4_чат_это_война_людей | |
| | 5 | квартиру - жилье - квартиры - аренды - жилья | 4580 | 5_квартиру_жилье_квартиры_аренды | |
| | 6 | билет - билеты - поезд - sbb - квиток | 3507 | 6_билет_билеты_поезд_sbb | |
| | 7 | велосипед - размер - обувь - розмір - одежда | 2951 | 7_велосипед_размер_обувь_розмір | |
| | 8 | лагере - лагерь - лагеря - вокзале - лагерях | 2904 | 8_лагере_лагерь_лагеря_вокзале | |
| | 9 | животных - собаку - собак - собака - собаки | 2891 | 9_животных_собаку_собак_собака | |
| | 10 | info moving - moving - кік - налаштуваннях чату - кікнуто | 2821 | 10_info moving_moving_кік_налаштуваннях чату | |
| | 11 | соц - радио - налог - тв - зп | 2659 | 11_соц_радио_налог_тв | |
| | 12 | волос - парикмахер - стрижки - волосся - фотограф | 1980 | 12_волос_парикмахер_стрижки_волосся | |
| | 13 | мусора - мусор - кг - сміття - творог | 1716 | 13_мусора_мусор_кг_сміття | |
| | 14 | програмування - школу - життєвий капітал - капітал - життєвий | 1625 | 14_програмування_школу_життєвий капітал_капітал | |
| | 15 | йога - занятия - инструктор - йоги - занятие | 1329 | 15_йога_занятия_инструктор_йоги | |
| | 16 | музей - праздник - зоопарк - торт - музеи | 1224 | 16_музей_праздник_зоопарк_торт | |
| | 17 | арт - ukraine_reborn - психотерапевт - організовує_ukraine_reborn - montbrillant 52 | 1021 | 17_арт_ukraine_reborn_психотерапевт_організовує_ukraine_reborn | |
| | 18 | телефон - ноутбук - iphone - интернет - ноутбуков | 1016 | 18_телефон_ноутбук_iphone_интернет | |
| | 19 | роботи - резюме - вимоги - ресторан - знання | 1004 | 19_роботи_резюме_вимоги_ресторан | |
| | 20 | развод - дети - детей - родители - розлучення | 950 | 20_развод_дети_детей_родители | |
| | 21 | бассейн - горы - озера - пляж - озеро | 646 | 21_бассейн_горы_озера_пляж | |
| | 22 | юриста - адвокат - адвоката - юрист - юристов | 597 | 22_юриста_адвокат_адвоката_юрист | |
| | 23 | работодатель - работу - разрешение - ес - разрешение работу | 484 | 23_работодатель_работу_разрешение_ес | |
| | 24 | грибы - грибов - сигарет - сигареты - грибів | 359 | 24_грибы_грибов_сигарет_сигареты | |
| | 25 | инвалидности - инвалидность - инвалидностью - інвалідністю - инвалидов | 209 | 25_инвалидности_инвалидность_инвалидностью_інвалідністю | |
| | 26 | sem - сайте sem - sema - sem адрес - статуса sem | 131 | 26_sem_сайте sem_sema_sem адрес | |
| | 27 | господа - бог - господь - псалом - ибо | 104 | 27_господа_бог_господь_псалом | |
| | 28 | 60 сек - 1inch - 1inch network - сек - дякуємо 60 | 65 | 28_60 сек_1inch_1inch network_сек | |
| |
| </details> |
| |
| ## Training hyperparameters |
| |
| * calculate_probabilities: False |
| * language: multilingual |
| * low_memory: False |
| * min_topic_size: 10 |
| * n_gram_range: (1, 1) |
| * nr_topics: 30 |
| * seed_topic_list: None |
| * top_n_words: 10 |
| * verbose: True |
| |
| ## Framework versions |
| |
| * Numpy: 1.24.4 |
| * HDBSCAN: 0.8.33 |
| * UMAP: 0.5.4 |
| * Pandas: 2.0.3 |
| * Scikit-Learn: 1.0.2 |
| * Sentence-transformers: 2.2.2 |
| * Transformers: 4.33.2 |
| * Numba: 0.58.0 |
| * Plotly: 5.17.0 |
| * Python: 3.8.10 |
| |
