Diffusers documentation
🧨 المبادئ التوجيهية الأخلاقية لـ Diffusers
🧨 المبادئ التوجيهية الأخلاقية لـ Diffusers
المقدمة
يوفر Diffusers نماذج انتشار مُدرَّبة مسبقًا، ويعمل كصندوق أدوات قابل للتخصيص للاستدلال والتدريب.
نظراً لتطبيقاته الواقعية في العالم والأثر السلبي المحتمل على المجتمع، نرى من المهم تزويد المشروع بإرشادات أخلاقية لتوجيه تطوير مكتبة Diffusers ومساهمات المستخدمين واستخدامها.
لا تزال المخاطر المرتبطة باستخدام هذه التقنية قيد الدراسة، ومن بينها على سبيل المثال لا الحصر: قضايا حقوق النشر الخاصة بالفنانين؛ استغلال التزييف العميق؛ توليد محتوى جنسي في سياقات غير لائقة؛ انتحال الشخصية دون موافقة؛ تحيزات اجتماعية ضارة تُديم اضطهاد المجموعات المهمّشة. سنواصل متابعة المخاطر وتكييف الإرشادات التالية بناءً على استجابة المجتمع وملاحظاته القيّمة.
النطاق
ستطبق مجتمع Diffusers المبادئ التوجيهية الأخلاقية التالية على تطوير المشروع، وستساعد في تنسيق كيفية دمج المجتمع للمساهمات، لا سيما فيما يتعلق بالمواضيع الحساسة المرتبطة بالاعتبارات الأخلاقية.
المبادئ التوجيهية الأخلاقية
تنطبق المبادئ الأخلاقية التالية بشكل عام، لكننا سنطبقها بشكل أساسي عند التعامل مع القضايا الحساسة أخلاقيًا أثناء اتخاذ قرار تقني. علاوة على ذلك، نلتزم بتكييف تلك المبادئ الأخلاقية مع مرور الوقت تبعًا للأضرار الناشئة المرتبطة بأحدث تطورات التقنية المعنية.
الشفافية: نحن ملتزمون بالشفافية في إدارة طلبات الدمج، وشرح اختياراتنا للمستخدمين، واتخاذ القرارات التقنية.
الاتساق: نحن ملتزمون بضمان مستوى متساوٍ من الاهتمام للمستخدمين في إدارة المشروع، مع الحفاظ على استقراره وتقنيته واتساقه.
البساطة: مع الرغبة في تسهيل استخدام مكتبة Diffusers والاستفادة منها، نلتزم بالحفاظ على أهداف المشروع بسيطة ومتسقة.
إمكانية الوصول: يساعد مشروع Diffusers في خفض عتبة الدخول للمساهمين الذين يمكنهم المساعدة في تشغيله حتى دون خبرة تقنية. يؤدي ذلك إلى جعل مخرجات البحث أكثر قابلية للوصول إلى المجتمع.
إمكانية التكرار: نسعى إلى أن نكون شفافين بشأن إمكانية تكرار الأكواد والنماذج ومجموعات البيانات الأصلية عند إتاحتها عبر مكتبة Diffusers.
المسؤولية: بصفتنا مجتمعًا ومن خلال العمل الجماعي، نتحمل مسؤولية جماعية تجاه مستخدمينا من خلال التنبؤ بالمخاطر والأخطار المحتملة لهذه التقنية والتخفيف منها.
أمثلة على التطبيقات: ميزات وآليات السلامة
تعمل الفريق يوميًا على توفير الأدوات التقنية وغير التقنية للتعامل مع المخاطر الأخلاقية والاجتماعية المحتملة المرتبطة بتقنية الانتشار. علاوة على ذلك، فإن مدخلات المجتمع لا تقدر بثمن في ضمان تنفيذ هذه الميزات ورفع الوعي بها معنا.
تبويب المجتمع: يتيح للمجتمع مناقشة المشروع والتعاون بشكل أفضل عليه.
استكشاف التحيز وتقييمه: يوفّر فريق Hugging Face مساحة لإظهار التحيزات في Stable Diffusion بشكل تفاعلي. ومن هذا المنطلق، ندعم ونشجع مستكشفي التحيز وتقييماته.
تشجيع السلامة في النشر
Safe Stable Diffusion: يُخفّف من المشكلة المعروفة التي تعاني منها النماذج، مثل Stable Diffusion، المُدرَّبة على مجموعات بيانات غير مُرشَّحة ومُستخرجة من الويب، حيث تميل إلى التعرّض لتدهور غير لائق. الورقة البحثية ذات الصلة: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.
فاحص السلامة: يقوم بفحص ومقارنة احتمالات الفئات لمجموعة من المفاهيم الضارة المبرمجة بشكل ثابت في فضاء التضمين مع الصورة بعد توليدها. يتم إخفاء المفاهيم الضارة عمدًا لمنع هندسة الفاحص عكسيًا.
الإصدار المرحلي على Hub: في المواقف الحساسة بشكل خاص، يجب تقييد الوصول إلى بعض المستودعات. يُعد هذا الإصدار المرحلي خطوة وسيطة تمنح مؤلفي المستودع مزيدًا من التحكم في استخدامه.
ترخيص: OpenRAILs، وهو نوع جديد من الترخيص، يتيح لنا ضمان الوصول المجاني مع وجود مجموعة من القيود التي تضمن استخدامًا أكثر مسؤولية.