Spaces:
Running on Zero
Running on Zero
| title: Piloto de injeção de prompt, explorador | |
| sdk: gradio | |
| colorFrom: gray | |
| colorTo: gray | |
| app_file: app.py | |
| pinned: false | |
| thumbnail: https://huggingface.co/spaces/guicybercode/llm-injection-pilot-explorer/resolve/main/capa.png | |
| short_description: Resultados agregados de um piloto pequeno, em CPU | |
| tags: | |
| - prompt-injection | |
| - llm-security | |
| - llama-cpp | |
| - cpu | |
| datasets: | |
| - guicybercode/llm-injection-pilot | |
| # Piloto de injeção de prompt: explorador | |
| Para ver rápido com que frequência dois LLMs pequenos em CPU seguem ataques de prompt injection, sem abrir CSV. Mostra os resultados agregados do piloto [llm-injection-pilot](https://huggingface.co/datasets/guicybercode/llm-injection-pilot) para Qwen3-1.7B (Q8_0) e SmolLM3-3B (Q4_K_M). | |
| ```python | |
| from datasets import load_dataset | |
| ds = load_dataset("guicybercode/llm-injection-pilot", split="train") | |
| ``` | |
| Mostra a tabela por modelo em T=0 (número principal), T=0,7 como confirmação, e o critério | |
| principal (casamento normalizado) ao lado da string exata. Não mostra os ataques nem os | |
| textos dos prompts de ataque. | |
| ## Resumo do piloto | |
| Publiquei um piloto pequeno de prompt injection em CPU. Dois modelos GGUF no llama-cpp-python, 40 ataques próprios por modelo (diretos e indiretos), T=0. | |
| Taxa de sucesso do ataque: | |
| - Qwen3-1.7B Q8_0: 34/40 (85,0%, IC Wilson 95% de 70,9 a 92,9) | |
| - SmolLM3-3B Q4_K_M: 21/40 (52,5%, IC de 37,5 a 67,1) | |
| Com regras anti-injeção no system prompt, os totais não mudaram em T=0, mas a divisão entre ataques diretos e indiretos mudou. | |
| É um piloto, não um benchmark. Modelo e quantização mudam juntos, então a diferença não pode ser atribuída à quantização. Não compare os dois modelos. | |
| Código, casos e saídas brutas: https://huggingface.co/datasets/guicybercode/llm-injection-pilot | |
| ## Dados | |
| Os arquivos de `dados/` são cópias das tabelas de `results/SUMMARY.md` do pacote | |
| llm-injection-pilot, sem recálculo. O app só troca o ponto decimal por vírgula. | |
| ## Ressalvas | |
| Piloto pequeno e exploratório, ataques próprios, critério de sucesso corrigido depois de ver | |
| os resultados, os dois modelos não se comparam entre si, não é réplica do INFUSE e não há | |
| conclusão sobre a segurança de modelo algum. | |