Create test/adversarial_test.py

test/adversarial_test.py

@@ -0,0 +1,67 @@
+# !pip install adversarial-robustness-toolbox requests
+
+import requests
+import numpy as np
+from art.estimators.classification import BlackBoxClassifier
+from art.attacks.evasion import TextAttackExtraction, WordSwapEmbedding
+
+# -------------------------
+# ۱) آدرس API اسپیس شما
+# -------------------------
+API_URL = "https://your-username-yourspace.hf.space/run/predict"
+
+def query_space(prompt: str) -> str:
+    """
+    تابعی برای ارسال prompt به اسپیس و دریافت خروجی
+    """
+    response = requests.post(API_URL, json={"data": [prompt]})
+    try:
+        return response.json()["data"][0]
+    except Exception:
+        return "Error or unexpected output"
+
+# -------------------------
+# ۲) Wrapper برای ART BlackBoxClassifier
+# -------------------------
+def predict_fn(texts):
+    """
+    برای تست ساده: هر متن رو به classifier می‌دهیم و خروجی 1 کلاس برمی‌گرده
+    """
+    preds = []
+    for t in texts:
+        out = query_space(t)
+        # چون TextGeneration داریم، کلاس واقعی نداریم
+        preds.append([1.0])
+    return np.array(preds)
+
+classifier = BlackBoxClassifier(
+    predict=predict_fn,
+    input_shape=(1,),
+    nb_classes=1,
+    clip_values=(0, 1),
+)
+
+# -------------------------
+# ۳) تعریف حملات
+# -------------------------
+attacks = {
+    "TextAttackExtraction": TextAttackExtraction(classifier),
+    "WordSwapEmbedding": WordSwapEmbedding(classifier)
+}
+
+# -------------------------
+# ۴) متن تست اولیه
+# -------------------------
+texts = ["Write me a nice poem about flowers."]
+
+# -------------------------
+# ۵) اجرای حملات و چاپ نتایج
+# -------------------------
+for name, attack in attacks.items():
+    adv_texts = attack.generate(texts)
+    print("===================================")
+    print(f"🟢 حمله: {name}")
+    print("متن اصلی:", texts[0])
+    print("متن مخرب:", adv_texts[0])
+    print("پاسخ مدل به متن اصلی:", query_space(texts[0]))
+    print("پاسخ مدل به متن مخرب:", query_space(adv_texts[0]))