🧨 Diffusers 的伦理准则

前言

Diffusers 提供预训练的扩散模型，并作为推理和训练的模块化工具箱。

鉴于其在现实世界中的应用以及对社会可能产生的负面影响，我们认为为该项目提供伦理准则至关重要，以指导 Diffusers 库的开发、用户贡献和使用。

使用该技术所带来的风险仍在持续评估中，其中包括：艺术家的版权争议；深度伪造技术的滥用；在不恰当的场景下生成色情内容；未经同意的身份冒充；以及延续对边缘化群体压迫的有害社会偏见。 我们将持续跟踪相关风险，并根据社区的反馈和宝贵建议调整以下准则。

范围

Diffusers 社区将在项目开发中应用以下道德准则，并协助协调社区如何整合各项贡献，尤其是涉及与道德关切相关的敏感话题。

道德准则

以下道德准则具有普遍适用性，但我们在进行技术选择时，主要会在涉及道德敏感性问题时加以落实。此外，我们承诺随着相关技术前沿发展所引发的新危害的出现，持续调整这些道德原则。

• 透明度：我们致力于在管理 PR、向用户解释我们的选择以及做出技术决策时保持透明。

• 一致性：我们致力于在项目管理中为用户提供同等程度的关注，确保项目在技术上保持稳定和一致。

• 简洁性：为了让 Diffusers 库易于使用，我们致力于保持项目目标精简且一致。

• 可及性：Diffusers 项目降低了贡献者的入门门槛，即使没有技术专长也能参与项目的运行。这使得研究成果对社区更加易于获取。

• 可复现性：当通过 Diffusers 库提供上游代码、模型和数据集时，我们力求对其可复现性保持透明。

• 责任：作为一个社区，通过团队协作，我们共同承担对用户的责任，即预判并缓解该技术可能带来的风险与危害。

实现示例：安全功能与机制

该团队每天都在努力提供技术性和非技术性工具，以应对扩散技术可能带来的伦理和社会风险。此外，社区的反馈对于确保这些功能的实现以及与我们共同提高认识至关重要。

• 社区标签页：它便于社区成员讨论项目并更好地开展协作。

• 偏差探索与评估：Hugging Face 团队提供了一个 space，用于交互式地展示 Stable Diffusion 中的偏差。从这个意义上说，我们支持并鼓励进行偏差探索与评估。

• 鼓励在部署中注重安全性

  • Safe Stable Diffusion：它缓解了众所周知的问题，即像 Stable Diffusion 这样在未经过滤的网络爬取数据集上训练的模型，往往容易出现不当退化。相关论文：Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

  • Safety Checker：在图像生成后，它会在嵌入空间中检查并比较一组硬编码的有害概念的分类概率。这些有害概念被刻意隐藏，以防止对检查器进行逆向工程。

• 在 Hub 上分阶段发布：在特别敏感的场景下，应限制对某些仓库的访问。这种分阶段发布是一个中间步骤，使仓库作者能够更精细地控制其使用方式。

• 许可协议：OpenRAILs 是一种新型许可协议，它允许我们在确保免费访问的同时，通过一系列限制条款来促进更负责任的使用。

Update on GitHub