|
|
| --- |
| tags: |
| - bertopic |
| library_name: bertopic |
| pipeline_tag: text-classification |
| --- |
| |
| # BERTopicTelegramAnalysis |
|
|
| This is a [BERTopic](https://github.com/MaartenGr/BERTopic) model. |
| BERTopic is a flexible and modular topic modeling framework that allows for the generation of easily interpretable topics from large datasets. |
|
|
| The model uses data from 32 open Telegram channels were Ukrainian Refugees exchange, we use the model to study refugee needs within Switzerland |
|
|
| ## Usage |
|
|
| To use this model, please install BERTopic: |
|
|
| ``` |
| pip install -U bertopic |
| ``` |
|
|
| You can use the model as follows: |
|
|
| ```python |
| from bertopic import BERTopic |
| topic_model = BERTopic.load("kdot/BERTopicTelegramAnalysis") |
| |
| topic_model.get_topic_info() |
| ``` |
|
|
| ## Topic overview |
|
|
| * Number of topics: 30 |
| * Number of training documents: 339650 |
|
|
| <details> |
| <summary>Click here for an overview of all topics.</summary> |
| |
| | Topic ID | Topic Keywords | Topic Frequency | Label | |
| |----------|----------------|-----------------|-------| |
| | -1 | это - швейцарии - день - нужно - пожалуйста | 50 | -1_это_швейцарии_день_нужно | |
| | 0 | швейцарии - україни - швейцарії - украину - украины | 181315 | 0_швейцарии_україни_швейцарії_украину | |
| | 1 | беженцев - лагере - лагерь - кантоне - кантона | 38579 | 1_беженцев_лагере_лагерь_кантоне | |
| | 2 | страховку - страховка - страховки - соц - франков | 33469 | 2_страховку_страховка_страховки_соц | |
| | 3 | квартиру - жилье - жилья - квартиры - жильё | 13553 | 3_квартиру_жилье_жилья_квартиры | |
| | 4 | билет - поезд - билеты - чемодан - автобус | 9189 | 4_билет_поезд_билеты_чемодан | |
| | 5 | стоматолога - зуб - врача - врач - врачу | 8665 | 5_стоматолога_зуб_врача_врач | |
| | 6 | паспорт - паспорта - статус - статуса - паспорту | 7180 | 6_паспорт_паспорта_статус_статуса | |
| | 7 | чат - война - войны - штраф - полицию | 6898 | 7_чат_война_войны_штраф | |
| | 8 | действие - ссылку авторизации - послал ссылку - info moving - авторизации | 6630 | 8_действие_ссылку авторизации_послал ссылку_info moving | |
| | 9 | магазин - магазины - caritas - магазинах - купить | 4598 | 9_магазин_магазины_caritas_магазинах | |
| | 10 | языка - школу - язык - програмування - англійської | 4310 | 10_языка_школу_язык_програмування | |
| | 11 | очки - парикмахера - окуляри - парикмахер - перукаря | 3730 | 11_очки_парикмахера_окуляри_парикмахер | |
| | 12 | sem - письмо - адрес - почту - почте | 3107 | 12_sem_письмо_адрес_почту | |
| | 13 | велосипед - коляска - велосипеда - коляску - самокат | 2794 | 13_велосипед_коляска_велосипеда_коляску | |
| | 14 | пластик - мусора - мусор - пластика - молоко | 2376 | 14_пластик_мусора_мусор_пластика | |
| | 15 | рождении - семьи - развод - воссоединение - свидетельство | 2026 | 15_рождении_семьи_развод_воссоединение | |
| | 16 | размер - обувь - розмір - взуття - одежда | 1719 | 16_размер_обувь_розмір_взуття | |
| | 17 | йога - занятия - йоги - инструктор - занятие | 1470 | 17_йога_занятия_йоги_инструктор | |
| | 18 | sbb - карту - приложение - приложении - гугл | 1458 | 18_sbb_карту_приложение_приложении | |
| | 19 | месяца - недели - дней - сентября - месяц | 1292 | 19_месяца_недели_дней_сентября | |
| | 20 | ukraine_reborn - організовує_ukraine_reborn - массаж - сторінка facebook - montbrillant 52 | 1183 | 20_ukraine_reborn_організовує_ukraine_reborn_массаж_сторінка facebook | |
| | 21 | бассейн - пляж - озера - басейн - бассейны | 1096 | 21_бассейн_пляж_озера_басейн | |
| | 22 | юриста - юрист - адвоката - адвокат - юристы | 937 | 22_юриста_юрист_адвоката_адвокат | |
| | 23 | телефон - iphone - айфон - pro - продам | 590 | 23_телефон_iphone_айфон_pro | |
| | 24 | грибы - грибов - гриби - грибів - клубнику | 554 | 24_грибы_грибов_гриби_грибів | |
| | 25 | книги - бібліотеці - принтер - книжки - распечатать | 342 | 25_книги_бібліотеці_принтер_книжки | |
| | 26 | 60 сек - 1inch - 1inch network - сек - зазначеного вилучені | 329 | 26_60 сек_1inch_1inch network_сек | |
| | 27 | господа - господь - псалом - бог - ибо | 144 | 27_господа_господь_псалом_бог | |
| | 28 | sem - asylg - ст - течение квартала - нуждающееся защите | 67 | 28_sem_asylg_ст_течение квартала | |
| |
| </details> |
|
|
| ## Training hyperparameters |
|
|
| * calculate_probabilities: False |
| * language: multilingual |
| * low_memory: False |
| * min_topic_size: 10 |
| * n_gram_range: (1, 1) |
| * nr_topics: 30 |
| * seed_topic_list: None |
| * top_n_words: 10 |
| * verbose: True |
| |
| ## Framework versions |
| |
| * Numpy: 1.24.4 |
| * HDBSCAN: 0.8.33 |
| * UMAP: 0.5.4 |
| * Pandas: 2.0.3 |
| * Scikit-Learn: 1.0.2 |
| * Sentence-transformers: 2.2.2 |
| * Transformers: 4.33.2 |
| * Numba: 0.58.0 |
| * Plotly: 5.17.0 |
| * Python: 3.8.10 |
| |
