guicybercode commited on
Commit
f2f9afe
·
verified ·
1 Parent(s): cc9cb29

Update model card

Browse files
Files changed (1) hide show
  1. README.md +17 -2
README.md CHANGED
@@ -8,21 +8,37 @@ size_categories:
8
  - n<1K
9
  task_categories:
10
  - text-generation
 
11
  tags:
12
  - prompt-injection
 
13
  - llm-security
 
 
 
 
 
 
14
  - cpu
15
  - reproducibility
16
  configs:
17
  - config_name: default
18
  data_files: results/all_results_compact.csv
 
19
  ---
20
 
21
  ![Capa](cover.png)
22
 
23
  # Piloto de prompt injection em LLMs pequenos (CPU, llama.cpp)
24
 
25
- Piloto **pequeno** e reprodutível que mede com que frequência dois LLMs quantizados (GGUF) rodando só em CPU seguem ataques de prompt injection (diretos e indiretos) em um conjunto de prompts próprio. Este repositório contém o código, os casos, as saídas brutas e o resumo. **Não é um benchmark**: leia a seção [Limitações](#limitações) antes de citar qualquer número.
 
 
 
 
 
 
 
26
 
27
  ## Resumo do desenho
28
 
@@ -130,7 +146,6 @@ Notas: (a) os modelos **não** estão incluídos aqui; (b) `run_all.sh` também
130
 
131
  ## Licenças
132
 
133
- - **Código:** MIT. **Dados (prompts e saídas de modelos): MIT [VERIFICAR: confirmar com o autor, e se a licença dos modelos impõe algo sobre as saídas redistribuídas]**; o YAML aplica `mit` ao repositório inteiro.
134
  - **Modelos usados (não redistribuídos aqui)**, conforme os cards públicos no Hugging Face (consultados em 16/10/2026 via API do Hub):
135
  - `Qwen/Qwen3-1.7B-GGUF` (e `Qwen/Qwen3-1.7B`): **Apache-2.0**.
136
  - `ggml-org/SmolLM3-3B-GGUF`: **Apache-2.0** (base: `HuggingFaceTB/SmolLM3-3B`, também Apache-2.0).
 
8
  - n<1K
9
  task_categories:
10
  - text-generation
11
+ - text-classification
12
  tags:
13
  - prompt-injection
14
+ - indirect-prompt-injection
15
  - llm-security
16
+ - llm-safety
17
+ - jailbreak
18
+ - security
19
+ - red-teaming
20
+ - gguf
21
+ - llama-cpp
22
  - cpu
23
  - reproducibility
24
  configs:
25
  - config_name: default
26
  data_files: results/all_results_compact.csv
27
+ thumbnail: https://huggingface.co/datasets/guicybercode/llm-injection-pilot/resolve/main/cover.png
28
  ---
29
 
30
  ![Capa](cover.png)
31
 
32
  # Piloto de prompt injection em LLMs pequenos (CPU, llama.cpp)
33
 
34
+ Quem roda um LLM pequeno localmente raramente sabe com que frequência ele obedece a uma instrução injetada num documento ou na mensagem do usuário. Medi isso em dois modelos GGUF em CPU, com 40 ataques próprios (diretos e indiretos) e as saídas brutas publicadas. É um piloto, não um benchmark.
35
+
36
+ ```python
37
+ from datasets import load_dataset
38
+ ds = load_dataset("guicybercode/llm-injection-pilot", split="train")
39
+ ```
40
+
41
+ Explorador dos resultados agregados: [Space llm-injection-pilot-explorer](https://huggingface.co/spaces/guicybercode/llm-injection-pilot-explorer).
42
 
43
  ## Resumo do desenho
44
 
 
146
 
147
  ## Licenças
148
 
 
149
  - **Modelos usados (não redistribuídos aqui)**, conforme os cards públicos no Hugging Face (consultados em 16/10/2026 via API do Hub):
150
  - `Qwen/Qwen3-1.7B-GGUF` (e `Qwen/Qwen3-1.7B`): **Apache-2.0**.
151
  - `ggml-org/SmolLM3-3B-GGUF`: **Apache-2.0** (base: `HuggingFaceTB/SmolLM3-3B`, também Apache-2.0).