Hugging Face's logo

Datasets:
henny52
/
chatmod-bench

Tasks:
Text Classification
Modalities:
Text
Formats:
json
Languages:
German
English
Size:
< 1K
Tags:
content-moderation
toxicity
benchmark
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
Dataset Viewer
Auto-converted to Parquet Duplicate
id
string
text
string
label
int64
lang
string
source
string
category
string
cmb-chat-de-0bdea9b9a8
Ich finde deine Idee mit der neuen Regel schlecht, das macht alles nur komplizierter.
0
de
chat
criticism
cmb-chat-de-15b2ee83bf
Ich finde deine Idee mit dem Abo-Modell schlecht, sie schließt neue Spieler komplett aus.
0
de
chat
criticism
cmb-chat-de-3042f45e88
Die Map ist schlecht designt, die Spawnpunkte sind einfach unfair.
0
de
chat
criticism
cmb-chat-de-36a752d8e4
Die letzte Änderung am Chatfilter war ein Fehlgriff, jetzt werden harmlose Nachrichten gelöscht.
0
de
chat
criticism
cmb-chat-de-5877028946
Sorry, aber dein Argument ergibt keinen Sinn, du vermischt da zwei völlig verschiedene Dinge.
0
de
chat
criticism
cmb-chat-de-59c99343e4
Das Update ist eine absolute Frechheit, seit Wochen dieselben Bugs.
0
de
chat
criticism
cmb-chat-de-77d143e6f2
Ich stimme dir nicht zu, das Update hat mehr Probleme geschaffen als gelöst.
0
de
chat
criticism
cmb-chat-de-77d546feb2
Dein Pick war echt nicht gut, die Gegner haben das sofort ausgenutzt.
0
de
chat
criticism
cmb-chat-de-7cdb7bd83e
Sorry, aber deine Ausrede mit dem Lag überzeugt nicht, du hast schlicht danebengelegen.
0
de
chat
criticism
cmb-chat-de-9aa017bbd0
Der Admin hat hier falsch entschieden, das war nicht regelkonform und sollte korrigiert werden.
0
de
chat
criticism
cmb-chat-de-a6e5f78e62
Das neue Matchmaking ist echt mies, die Wartezeiten sind viel zu lang.
0
de
chat
criticism
cmb-chat-de-ce3bc43260
Das Spiel ist sein Geld nicht wert, die Server sind ständig down und der Support antwortet nicht.
0
de
chat
criticism
cmb-chat-de-4baf200835
Schämst du dich nicht? Du bist wirklich ein kompletter Idiot.
1
de
chat
direct_insult
cmb-chat-de-53fc7aecaf
Halt die Fresse, du dumme Sau.
1
de
chat
direct_insult
cmb-chat-de-5a0ba80b0d
Du bist ein widerlicher Bastard, verschwinde aus dem Chat.
1
de
chat
direct_insult
cmb-chat-de-62da8640c7
Halt's Maul, du kleine Ratte, keiner will dich hier.
1
de
chat
direct_insult
cmb-chat-de-75347980e8
Du bist so peinlich, dass ich mich für dich schäme, geh einfach offline.
1
de
chat
direct_insult
cmb-chat-de-892fa2e04e
Du bist der dümmste Spieler, den ich je gesehen habe, spiel nie wieder mit uns.
1
de
chat
direct_insult
cmb-chat-de-8f3bff977f
Mit deiner Intelligenz hast du hier nichts verloren, du Dummkopf.
1
de
chat
direct_insult
cmb-chat-de-9bb2103b0a
Du bist so unglaublich dämlich, das tut schon weh.
1
de
chat
direct_insult
cmb-chat-de-a9ea734e92
Du bist echt ein mieses Stück Dreck, weißt du das?
1
de
chat
direct_insult
cmb-chat-de-b1b6238536
Du bist so eine erbärmliche Nulle, echt peinlich.
1
de
chat
direct_insult
cmb-chat-de-b74052eb17
Du bist echt der letzte Vollidiot, merkst du das eigentlich noch?
1
de
chat
direct_insult
cmb-chat-de-d0ce0de635
Was für ein erbärmlicher Versager bist du eigentlich?
1
de
chat
direct_insult
cmb-chat-de-e33d73d1b0
Leute wie du sollten echt nicht online sein, du bist so peinlich dumm.
1
de
chat
direct_insult
cmb-chat-de-f59960ea0c
Du bist so ein absolutes Arschloch, wie kann man nur so spielen.
1
de
chat
direct_insult
cmb-chat-de-f853eac7bd
Halt einfach die Fresse, niemand hier will mit dir reden.
1
de
chat
direct_insult
cmb-chat-de-f864eab681
Du bist wirklich der größte Versager auf diesem ganzen Server.
1
de
chat
direct_insult
cmb-chat-de-18205500ee
Moin, wie läuft's bei dir? Lust später eine Runde zu zocken?
0
de
chat
friendly
cmb-chat-de-242e5a1f67
Danke für die Runde gestern, hat richtig Spaß gemacht mit euch! 😊
0
de
chat
friendly
cmb-chat-de-2f630137ac
Glückwunsch zum Rang, richtig stark gespielt 👏
0
de
chat
friendly
cmb-chat-de-3e24200b8c
Das war echt ein starkes Match, du hast uns am Ende gerettet.
0
de
chat
friendly
cmb-chat-de-444c4ee454
Danke fürs Heilen, du hast mir den Run gerettet 🙏
0
de
chat
friendly
cmb-chat-de-53dd8fc062
Mach's gut, bis morgen, schlaf gut 😴
0
de
chat
friendly
cmb-chat-de-5b5596f710
Haha, dein Clip mit dem Fail war echt zu witzig.
0
de
chat
friendly
cmb-chat-de-6304df0087
Willkommen im Server, wenn du Fragen hast, einfach melden.
0
de
chat
friendly
cmb-chat-de-91e3db54a5
Hi, wer hat Lust auf ein paar Runden?
0
de
chat
friendly
cmb-chat-de-b2560d7765
Gute Nacht, schlaf gut und bis morgen im Voice.
0
de
chat
friendly
cmb-chat-de-fb05802747
Komm mal vorbei, ich schenk dir ein paar Items ab.
0
de
chat
friendly
cmb-chat-de-fc2efd6540
Gutes Spiel, war eine Freude mit dir zu spielen!
0
de
chat
friendly
cmb-chat-de-067864eaa6
Ich bringe heute den Boss um, du machst derweil Wache.
0
de
chat
gaming_banter
cmb-chat-de-142ebbb19f
Der Boss hat mich dreimal gekillt, aber diesmal mach ich ihn fertig.
0
de
chat
gaming_banter
cmb-chat-de-1619cabe6f
Wenn wir diese Map noch mal spielen, mache ich euch allen den Boden auf.
0
de
chat
gaming_banter
cmb-chat-de-18a417ed8a
Ingame mach ich dich fertig, versprochen 😄
0
de
chat
gaming_banter
cmb-chat-de-1f85b40a3d
Gleich spawncamp ich dich, bis du das Spiel deinstallierst.
0
de
chat
gaming_banter
cmb-chat-de-2beeca5761
Du wirst in der nächsten Runde so hart vernichtet, das wird schon lustig.
0
de
chat
gaming_banter
cmb-chat-de-72622e9d4a
Ich werd dich in der nächsten Runde so dermaßen zerstören, bereit dich vor.
0
de
chat
gaming_banter
cmb-chat-de-8697eef350
Der Boss bringt mich gleich um, ich brauche dringend Heilung.
0
de
chat
gaming_banter
cmb-chat-de-891608a400
Aufpassen, ich räume gleich im Duell alles ab, ich hab es drauf.
0
de
chat
gaming_banter
cmb-chat-de-97fb0351c9
Diese Runde habe ich dein ganzes Squad ausgeschaltet, gg.
0
de
chat
gaming_banter
cmb-chat-de-98fdd114ca
Ich snipe dich durch die Wand, keine Chance, digga.
0
de
chat
gaming_banter
cmb-chat-de-9914b15eda
Mein Team wird euch im Ranked-Match sowas von auseinandernehmen.
0
de
chat
gaming_banter
cmb-chat-de-9e37a19ee4
Ich warte am Spawn und zerlege jeden, der rauskommt, haha.
0
de
chat
gaming_banter
cmb-chat-de-bebd4daab5
Kommt her, ich kille alle Gegner in Zone 3, deckt mich!
0
de
chat
gaming_banter
cmb-chat-de-c6903cfa76
Ich hab dich in der nächsten Runde komplett zerstört, gib es nur zu.
0
de
chat
gaming_banter
cmb-chat-de-f4db2a3a50
Wenn ich den Endboss lege, feiern wir im Voice, versprochen.
0
de
chat
gaming_banter
cmb-chat-de-2db3712d89
Der Islam gehört nicht zu Deutschland und seine Anhänger sind alle rückständig.
1
de
chat
group_hate
cmb-chat-de-556eb70af1
Homosexuelle sollten ihre Beziehung nicht öffentlich zeigen, das ist widerlich.
1
de
chat
group_hate
cmb-chat-de-74b0068614
Menschen mit Behinderung sind doch nur eine Belastung für die Gesellschaft.
1
de
chat
group_hate
cmb-chat-de-7d73d3d175
Diese Ausländer nehmen uns die Jobs weg und sollten alle abgeschoben werden.
1
de
chat
group_hate
cmb-chat-de-93859d505f
Frauen gehören einfach nicht in Führungspositionen, die sollen zu Hause bleiben.
1
de
chat
group_hate
cmb-chat-de-968c3b1854
Trans Personen sind psychisch krank und haben in unserer Gemeinschaft nichts verloren.
1
de
chat
group_hate
cmb-chat-de-a1fad20c36
Leute mit Migrationshintergrund sollen in ihren eigenen Servern bleiben.
1
de
chat
group_hate
cmb-chat-de-c6ebe3d6ea
Menschen mit Behinderungen sollten nicht zocken, die können es einfach nicht.
1
de
chat
group_hate
cmb-chat-de-dde7a96747
Schwule soll hier niemand erwähnen, die können ruhig unter sich bleiben.
1
de
chat
group_hate
cmb-chat-de-f13450dbe3
Muslime braucht in unserem Chat keiner, die sind alle gleich drauf.
1
de
chat
group_hate
cmb-chat-de-f1c04971ee
Russen sind hier alles Betrüger, auf die ist überhaupt kein Verlass.
1
de
chat
group_hate
cmb-chat-de-f5ee1842d6
Frauen sollten hier gar nicht mitspielen, die können eh nicht zocken.
1
de
chat
group_hate
cmb-chat-de-0849ece366
Für jemanden wie dich ist das sicher schwer zu verstehen, aber der Rest hat es längst kapiert.
1
de
chat
implied
cmb-chat-de-172d83e314
Wenn du aufhörst zu tippen, merkt hier niemand den Unterschied.
1
de
chat
implied
cmb-chat-de-1b64e241b5
Für jemanden, der so wenig Ahnung hat, redest du erstaunlich viel.
1
de
chat
implied
cmb-chat-de-24c03aa859
Schön, dass du es wenigstens versucht hast, mehr kann man ja nicht erwarten.
1
de
chat
implied
cmb-chat-de-37490d2f63
Manche Leute sollten einfach nur zuschauen, und du gehörst ganz klar dazu.
1
de
chat
implied
cmb-chat-de-80ac5da312
Du bist wirklich der Grund, warum Leute lieber allein spielen.
1
de
chat
implied
cmb-chat-de-92b76edc4c
Deine Eltern müssen ja wahnsinnig stolz sein, wenn sie sehen, wie du dich hier aufführst.
1
de
chat
implied
cmb-chat-de-cbabef3d6d
Ich würde ja sagen, du bemühst dich, aber das wäre gelogen.
1
de
chat
implied
cmb-chat-de-e4e094340b
Du bist richtig gut darin, anderen die Lust am Spielen zu nehmen.
1
de
chat
implied
cmb-chat-de-e52dbffddf
Vielleicht solltest du nur noch Emojis schreiben, mit Inhalten klappt es bei dir nicht.
1
de
chat
implied
cmb-chat-de-021d3865f1
Du bist nicht dumm, du hast nur den falschen Plan gewählt.
0
de
chat
negation
cmb-chat-de-0375beea9a
Du bist überhaupt kein Versager, dein Aim war heute top.
0
de
chat
negation
cmb-chat-de-2ae884c2b5
Ich finde dich überhaupt nicht lächerlich, im Gegenteil, dein Projekt ist stark.
0
de
chat
negation
cmb-chat-de-2ced0b8fa9
Wer behauptet, du seist nutzlos, hat keine Ahnung – du hilfst hier wirklich jedem.
0
de
chat
negation
cmb-chat-de-68d504b508
Bitte denk nicht, dass du schlecht bist, das war ein richtig guter Move.
0
de
chat
negation
cmb-chat-de-8483fce046
Du bist nicht dumm, du hast die Aufgabe einfach nur zu schnell aufgegeben.
0
de
chat
negation
cmb-chat-de-8ece3ce689
Das war keine dumme Idee, im Gegenteil, ich finde sie wirklich gut.
0
de
chat
negation
cmb-chat-de-a963365178
Nur weil er manchmal ein Idiot genannt wird, heißt das noch lange nicht, dass er einer ist.
0
de
chat
negation
cmb-chat-de-c15ef0487e
Kein Idiot hätte das so gut hinbekommen wie du, echt stark.
0
de
chat
negation
cmb-chat-de-f803737acd
Du bist kein Versager, nur weil du das Match verloren hast.
0
de
chat
negation
cmb-chat-de-0d7285e93b
Du bist so ein verdammter H u r e n s o h n.
1
de
chat
obfuscated
cmb-chat-de-1f88dd26cd
Du d0of3 K.u.h, lern erst mal schreiben.
1
de
chat
obfuscated
cmb-chat-de-2f4076bb24
Du bist ein ärschloch ohne Gleichen, wirklich.
1
de
chat
obfuscated
cmb-chat-de-697f954322
Ich m4ch d1ch f3rt1g, w4rt 4b.
1
de
chat
obfuscated
cmb-chat-de-757f2e5fe0
1ch schla8e dir d1e Zähne 1n, d4s k0mmt noch.
1
de
chat
obfuscated
cmb-chat-de-84f788a669
dU bIsT eIn IdIoT 🤡
1
de
chat
obfuscated
cmb-chat-de-9ddd93aeae
H4lt d1e Fr3sse, du L4ppen.
1
de
chat
obfuscated
cmb-chat-de-b6252e6fe9
K r i g d i c h z u s a m m e n, du N u l l e.
1
de
chat
obfuscated
cmb-chat-de-bb5229f37e
W4rt nur, 1ch br3ch d1r d13 B31n3.
1
de
chat
obfuscated
cmb-chat-de-c2fef9eb99
V3rschw1nd3, du ekelh4ft3r W1chser.
1
de
chat
obfuscated
cmb-chat-de-df90b5b93b
H4lt die Fresse, hier juckt sich niemand für dich.
1
de
chat
obfuscated
cmb-chat-de-e1fd59b56e
d u b i s t e i n v o l l k o m m e n e r V e r s a g e r
1
de
chat
obfuscated
End of preview. Expand in Data Studio

ChatMod Bench

600 German and English chat messages, half toxic. One question per message: would a moderator in a normal online community remove it or warn the author?

  • chat (300): gaming and community chat, including harmless look-alikes such as game banter, quotes, reports to moderators and negation
  • hatecheck (300): a sample of HateCheck and German HateCheck
{"id": "cmb-chat-de-1a2b3c4d5e", "text": "...", "label": 1, "lang": "de", "source": "chat", "category": "implied"}

Results

Model Accuracy Macro-F1
OpenAI omni-moderation-latest 75.7 % 0.754
axo-native-small-preview 75.0 % 0.746
Qwen3Guard-Gen-8B 70.2 % 0.684
Qwen3Guard-Gen-4B 69.5 % 0.678
Qwen3Guard-Gen-0.6B 66.2 % 0.644

Default decision rule of each model. Full numbers in results.json.

Run 

pip install -r requirements.txt
python run_benchmark.py --model omni                  # or axo-native-small-preview, qwen3guard-0.6b/4b/8b
python run_benchmark.py --predictions my_model.jsonl  # {"id": ..., "flagged": true, "score": 0.93}

License

CC BY 4.0. The hatecheck part is from HateCheck (Röttger et al., ACL 2021) and Multilingual HateCheck (Röttger et al., WOAH 2022), both CC BY 4.0. Contains offensive language by design.
Downloads last month
30
Number of rows:
600
Total file size:
167 kB

Space using henny52/chatmod-bench 1

Collection including henny52/chatmod-bench