MMTEB: Massive Multilingual Text Embedding Benchmark
Paper • 2502.13595 • Published • 50
comentario string | label_final int64 |
|---|---|
Essa menina é sensacional... quanta emoção, quanta garra! E ela falou tudo... | 0 |
Esse governo está ótimo 👏🏻 De um lado o pior presidente e do outro o pior ministro, mais perdido do que cego em tiroteio | 1 |
Só que Carla você tem princípios e não se vendeu desta forma vergonhosa.Não se compara você a está traíra | 1 |
Parabéns e muitas bençãos na vida de Bolsonaro!!!🙏🇧🇷 | 0 |
Se juntas já causam 😊 | 0 |
Na verdade, a maior mensagem que eu tirei da propaganda foi 'tenha cachorros em casa pra espantar a dengue' | 0 |
Até que enfim atitudes sérias sendo tomadas👏👏 | 0 |
Mais que merecido! Melhor ministro de educação que esse país já teve! | 0 |
Ele podia cansar de passar vergonha, está cavando cova pro governo. | 1 |
Preocupar com coisas reais e que irao impactar o futuro de todos nos principalmente o deles. Aqui nao eh questao de ideologia direita ou esquerda e sim de sustentabilidade. | 0 |
Pela alegria nos restaurantes e nos shoppings parece que é bem mais de 60% | 0 |
EU Não Assisto. Só Faz CARA DE Deboche. Tá Com Nada. AUDIÊNCIA CAINDO. | 1 |
Muita boa pessoa Carla Zambele | 0 |
Que mulher maravilhosa! Representatividade o nome. | 0 |
Dois lindos na parede😍 | 0 |
Presidente Bolsonaro com razão pirralha | 1 |
Dois grandes ❤️ | 0 |
Que absurdo. Essa gente não tem escrupulos. | 1 |
Agradecer a Deus por colocar esses anjos para defender o povo honesto do Brasil, estamos juntos nessa luta, povo unido.Vomos nos unir em oração para que Deus proteja vocês. | 0 |
Acredito ser apenas o início, deve ter mais gente envolvida. Importante sabermos os motivos desse crime hediondo | 0 |
Desgraçado, canalha! | 1 |
Quebraram a Placa de Marielle ao Vivo e a Cores, a Televisão Filmou, TODOS Assistiram, NINGUÉM fez Nada e os caras foram eleitos. Agora Isso !!! Realmente, é um Túnel SEM Luz no final 😭😭😭😭😭 | 0 |
Lindos. Sigam em frente! 🇧🇷✨️ | 0 |
NA LATA DESSA JORNALISTA IDIOTA | 1 |
Meu Presidente ... merecido, parabéns! | 0 |
Grande - Fernando Haddad - pegou educação do Brasil na 36^ posição e deixou na 138^ posição - diz que construiu tantas universidades. | 0 |
As vezes tem pessoas com espirito inflexível não saber escutar precisa apanhar para amadurecer . | 0 |
Plano da esquerda foi é e será sempre críticar não nunca teve um plano de governo único plano era como roubar . | 1 |
A Marnha Do Brasil está produzindo esses aparelhos Parabéns MARINHA DO BRASIL🇧🇷🇧🇷🇧🇷🇧🇷 | 0 |
Tudo é uma questão de interpretação, nesse caso quem interpretou a fala tem interesse em denegrir a família Bolsonaro. E qualquer coisa que ele fale, vão sempre distorcer, porque são contra o governo. Não querem entender isso? Digo mais, muitos (as), se elegeram pegando essa carona, agora... quero só vê se muitos vão c... | 0 |
Falou bem suspeitos porque o chef está ainda solto | 1 |
Nosso presidente é jair Bolsonaro. Mito. | 0 |
Esse filho da puta quer é uma guerra no Brasil,esse cara é um psicopata tem que prender esse crápula,isso é um perigo pra sociedade brasileira | 1 |
Cuidado porque óleo e água não se mistura... quem ficar em cima do muro só vai assistir... | 0 |
Coitada da menina @manueladavila porque a esquerda adora usar pessoas assim tipo ela? | 1 |
Isso passou dos limites, porque a Globo não é punida?deveria ser, só fala as notícias distorcidas e falsas. | 1 |
Esse Sílvio santos é um VERME. U criminoso. Onde estava a VACA da Damares protetora da família. Essa pilantra não defende família coisa nenhuma. | 1 |
Essa esquerda é uma PIADA!! | 1 |
@prestes.reh noooossa essa foi boa 👏👏👏👏 | 0 |
Com Deus no comando sempre, tudo vai bem. 👏👏👏👏👏👏 | 0 |
Meu futuro presidente 👏👏👏👏😍😍 | 0 |
Até uma criança tem mais cérebro que esse povo👏👏👏 | 1 |
O STF, com raras exceções de ministros, transformou-se em escritório de advocacia para bandidos!!! 🙌🙏🙌 | 1 |
Meliante de quinta categoria, mentiroso, falso, facínora, tosco, vulgar, parasita da sociedade, pária do congresso, rêmora oportunista oca, hipócrita e podre obcecado pelo poder. | 1 |
E uma coitada , não tem credibilidade aqui nao | 1 |
Ainda bem que ele eh fervoroso evangélico 😱 eh hipocrisia que se chama ? | 1 |
VC PODE CUMPRIR A METADE DA PENA DO BANDIDO BARBUDO!! | 1 |
Ridículos !!! Deveriam estar dando andamento às PRISÕES DOD CORRUPTOS !!! Quando assim o fizerem, não teremos mais FAKE NEWS !!!! TRABALHA DIREITO AÍ CONGRESSO. E O PACOTE ANTI CRIME ??? O QUE ESTÃO ESPERANDO PARA VOTAR ???? TRM MUITA GENTE AÍ BORRANDO NAS CALÇAS NÉ, PPR ISSO NAO VAI PRA FRENTE O QUE REALMRMTE INTERESS... | 1 |
Aquele que pode fazer o bem e não faz já pecou | 0 |
Nossa que fofo esse Fachin 👍❤️ | 0 |
O MELHOR DE TODOS OS TEMPOS..O BOLSONARO O INSUBSTITUÍVEL SEMPRE! 😂😂❤️❤️👏👏👏 | 0 |
@fernandohaddadoficial Professor com o cabelo mais curto...💋 | 0 |
@biancamelloimoveis , não há dúvidas sobre isso. Toda honra e toda glória a Ele! | 0 |
Cara nojento | 1 |
Nem sei pq me impressiono com a quantidade de ódio que esse ser espalha. | 1 |
Só queria lembrar que eu escolhi o professor 🥰 que dupla | 0 |
Melhor governador do mundo 👏🙌🇧🇷 | 0 |
Rebentado a gente, foi para isso que colocamos vc aí, vai acaba com nós pobres. | 1 |
Criança deveria estar na escola e não fazendo ativismo. | 0 |
@gilberttsantos pra quem vive de doação sim meu querido! | 0 |
Ministra mais que querida. Que o Bom Deus lhe conceda paciência e energia para seguir nessa luta luminosa, q é o seu trabalho pelas criaturas fragilizadas dessa nação. O mal grassa por aí pq ainda somos seres em ascensão, nessa difícil jornada chamada vida. E os q permanecem na retaguarda por vontade ou preguiça, não s... | 0 |
Tudo que esse babaca falou da nossa Ministra ele queria q fosse com ele. Doidinho com uma mamadeira de piroca | 1 |
Por isso que a educação está uma completa negação... Parabéns aos envolvidos | 1 |
Uma lição de como se deve respeitar o meio ambiente | 0 |
O entrevistado é faca na caveira😂😂😂 | 0 |
Vagabunda. Cala essa boca imunda pra falar do meu País . | 1 |
Isso é uma nojeira...se crítica o governo é contra, o que ela fala é muita falcidade...esse tipo de soberba acaba na lama | 1 |
Difícil, pai e filha mal caráter.... | 1 |
Que Jesus esses demônios seguem! Meu Deus salve nosso país de seres demoníacos como esse Marco Feliciano!😈😈 | 1 |
Jornalista filho do demônio comunistas | 1 |
@ivangleice_costa mulheres votaram contra a investigação dos abusos no Marajó porque será. | 0 |
quanta gente ruim em uma unica foto | 1 |
Desenrola IDEIA ROUBADA DO CIRO GOMES KKKK | 1 |
Mto impactante e emocionante. | 0 |
Estou assistindo ❤️ | 0 |
Será q o Bozo e seus filhos tb vão fraudar as eleições da Argentina?? | 1 |
É a Pirralha sim!!!!! | 1 |
Vergonha nacional deste congresso podre turma de CANALHAS | 1 |
Essa só falta virar petista pq do resto já está igualzinha, lamentável 🤦🏽♂️ | 0 |
Urgente Lula livre já Haddad presidente 2022. Ja Brasil | 0 |
Verdade, Janaína. Belo embaixador nós íamos ter | 0 |
A periguete de volta !! Não adianta a recauchutada , conhecemos sua índole!!! Não será eleita para nada ! | 1 |
Um dos melhores seres humanos vivos | 0 |
Rapariga de cego ! Quem essa vagabunda pensa que é pra dar pitaco aqui dentro ! Vagabunda | 1 |
Infantil dê um jovem, nó Estado dó Rio de janeiro é piraliha no RS guria em MG muleque como em outras regiões qual maldade têm meste dialetos gramatical a ondem emcontraro agressão?... | 1 |
E viva a esquerda💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖💖 | 0 |
Ai sabe roubar ...prefeitão de SP....kkkk... | 1 |
Vamos à luta todas juntas e misturadas ❤️❤️❤️❤️❤️ | 0 |
Vc é desequilibrado cara...sem moral algum para quem realmente se importa com o Brasil...pena do seu pai que tem um filho burro igual a vc... até onde vc vai parar tentar querer impor as coisas??? | 1 |
A pessoa que escreveu isso é um ser em trevas. Jesus tenha piedade desse ser que um dia vai chorar lágrimas de arrependimento. | 1 |
Acho que ele cria problemas ao Bolsonaro sim. O cenário político mostra que não há concorrente à Presidência em 2022 melhor que o Jair... por enquanto. Combater a imoralidade, o banditismo e a desonestidade já o qualifica a mais um mandato. | 0 |
A ordem é arrecadar o máximo | 0 |
Tira o nome de Jesus da boca. | 1 |
Esse carniça 💩👿 podre 💩💩 🐍🐭🦑🚓🚓🚓🚓 essa praga tem fome de poder e dinheiro público roubado. | 1 |
Isso aí sim e postura de criança em ensino 👏🏻👏🏻 Não aquela lacracao de criança usando shortinho dançando funk ameaçando professor em sala de aula , como a esquerda incentivou os últimos 15 anos . #BolsonaroNeles 😎👉🏻👉🏻 | 1 |
Sra Leilane repita comigo por favor por várias vezes !! ME FUDI !!!!! Kkkkk | 1 |
Qualquer coisa que alguém da direita disser será desvirtuado para ser usado pela esquerda pra atacar. Ele citou um exemplo histórico que nós não queremos de volta mas pra isso o Brasil tem que se preparar, coisa que não fez na década de 60.🇧🇷 | 0 |
Eu não aguento mais olhar essa cara lavada do luladrão | 1 |
Isso é um chorume 🤬🤬💩💩💩 | 1 |
Quem está na frente de tudo é Deus, e agindo Deus Quem impedirá!!🙏 | 0 |
HateBR: Brazilian Portuguese Instagram comments annotated for offensive language and hate speech. Binary classification of offensive vs non-offensive comments. 7,000 comments, expert-annotated by linguists with kappa agreement >0.83.
| Task category | Classification (text-to-category) |
| Domains | Social, Written |
| Reference | https://aclanthology.org/2022.lrec-1.777/ |
Source datasets:
You can evaluate an embedding model on this dataset using the following code:
import mteb
task = mteb.get_task("HateBR")
model = mteb.get_model(YOUR_MODEL)
mteb.evaluate(model, task)
To learn more about how to run models on mteb task check out the GitHub repository.
If you use this dataset, please cite the dataset as well as mteb, as this dataset likely includes additional processing as a part of the MMTEB Contribution.
@inproceedings{vargas-etal-2022-hatebr,
title = "{H}ate{BR}: A Large Expert Annotated Corpus of {B}razilian {I}nstagram Comments for Offensive Language and Hate Speech Detection",
author = "Vargas, Francielle and
Carvalho, Isabelle and
Rodrigues de G{\'o}es, Fabiana and
Pardo, Thiago and
Benevenuto, Fabr{\'\i}cio",
booktitle = "Proceedings of the Thirteenth Language Resources and Evaluation Conference",
month = jun,
year = "2022",
address = "Marseille, France",
publisher = "European Language Resources Association",
url = "https://aclanthology.org/2022.lrec-1.777",
pages = "7174--7183",
}
@article{enevoldsen2025mmtebmassivemultilingualtext,
title={MMTEB: Massive Multilingual Text Embedding Benchmark},
author={Kenneth Enevoldsen and Isaac Chung and Imene Kerboua and Márton Kardos and Ashwin Mathur and David Stap and Jay Gala and Wissam Siblini and Dominik Krzemiński and Genta Indra Winata and Saba Sturua and Saiteja Utpala and Mathieu Ciancone and Marion Schaeffer and Gabriel Sequeira and Diganta Misra and Shreeya Dhakal and Jonathan Rystrøm and Roman Solomatin and Ömer Çağatan and Akash Kundu and Martin Bernstorff and Shitao Xiao and Akshita Sukhlecha and Bhavish Pahwa and Rafał Poświata and Kranthi Kiran GV and Shawon Ashraf and Daniel Auras and Björn Plüster and Jan Philipp Harries and Loïc Magne and Isabelle Mohr and Mariya Hendriksen and Dawei Zhu and Hippolyte Gisserot-Boukhlef and Tom Aarsen and Jan Kostkan and Konrad Wojtasik and Taemin Lee and Marek Šuppa and Crystina Zhang and Roberta Rocca and Mohammed Hamdy and Andrianos Michail and John Yang and Manuel Faysse and Aleksei Vatolin and Nandan Thakur and Manan Dey and Dipam Vasani and Pranjal Chitale and Simone Tedeschi and Nguyen Tai and Artem Snegirev and Michael Günther and Mengzhou Xia and Weijia Shi and Xing Han Lù and Jordan Clive and Gayatri Krishnakumar and Anna Maksimova and Silvan Wehrli and Maria Tikhonova and Henil Panchal and Aleksandr Abramov and Malte Ostendorff and Zheng Liu and Simon Clematide and Lester James Miranda and Alena Fenogenova and Guangyu Song and Ruqiya Bin Safi and Wen-Ding Li and Alessia Borghini and Federico Cassano and Hongjin Su and Jimmy Lin and Howard Yen and Lasse Hansen and Sara Hooker and Chenghao Xiao and Vaibhav Adlakha and Orion Weller and Siva Reddy and Niklas Muennighoff},
publisher = {arXiv},
journal={arXiv preprint arXiv:2502.13595},
year={2025},
url={https://arxiv.org/abs/2502.13595},
doi = {10.48550/arXiv.2502.13595},
}
@article{muennighoff2022mteb,
author = {Muennighoff, Niklas and Tazi, Nouamane and Magne, Loïc and Reimers, Nils},
title = {MTEB: Massive Text Embedding Benchmark},
publisher = {arXiv},
journal={arXiv preprint arXiv:2210.07316},
year = {2022}
url = {https://arxiv.org/abs/2210.07316},
doi = {10.48550/ARXIV.2210.07316},
}
The following code contains the descriptive statistics from the task. These can also be obtained using:
import mteb
task = mteb.get_task("HateBR")
desc_stats = task.metadata.descriptive_stats
{}
This dataset card was automatically generated using MTEB