# 🧨 Этические принципы Diffusers

## Введение

[Diffusers](https://huggingface.co/docs/diffusers/index) предоставляет предварительно обученные диффузионные модели и служит модульным инструментарием для вывода и обучения.

Учитывая реальные применения в мире и потенциальное негативное влияние на общество, мы считаем важным предоставить проекту этические руководящие принципы, которые будут направлять разработку, вклад пользователей и использование библиотеки Diffusers.

Риски, связанные с использованием этой технологии, продолжают изучаться, но можно выделить несколько: проблемы с авторскими правами для художников; эксплуатация дипфейков; генерация сексуального контента в неподходящем контексте; неконсенсуальная имперсонация; вредные социальные предубеждения, поддерживающие угнетение маргинализированных групп. Мы будем продолжать отслеживать риски и адаптировать следующие рекомендации на основе реакции сообщества и ценной обратной связи.

## Область применения

Сообщество Diffusers будет применять следующие этические принципы к разработке проекта и помогать координировать процесс интеграции вклада участников, особенно в отношении чувствительных тем, связанных с этическими вопросами.

## Этические принципы

Перечисленные ниже этические принципы носят общий характер, однако мы будем в первую очередь применять их при принятии технических решений в ситуациях, связанных с этически чувствительными вопросами. Кроме того, мы обязуемся со временем адаптировать эти этические принципы в ответ на новые риски, связанные с развитием передовых технологий в данной области.

- **Прозрачность**: мы стремимся к прозрачности в управлении PR, объясняем пользователям наши решения и принимаем технические решения открыто.

- **Согласованность**: мы стремимся обеспечить пользователям одинаковый уровень внимания к управлению проектом, поддерживая его техническую стабильность и согласованность.

- **Простота**: стремясь сделать библиотеку Diffusers удобной в использовании и эксплуатации, мы придерживаемся чётких и согласованных целей проекта.

- **Доступность**: проект Diffusers помогает снизить порог входа для участников, которые могут помочь в его работе даже без технического опыта. Это делает исследовательские артефакты более доступными для сообщества.

- **Воспроизводимость**: мы стремимся быть прозрачными в отношении воспроизводимости исходного кода, моделей и наборов данных, когда они становятся доступными через библиотеку Diffusers.

- **Ответственность**: как сообщество и благодаря командной работе мы несем коллективную ответственность перед нашими пользователями, предвидя и снижая потенциальные риски и опасности, связанные с этой технологией.

## Примеры реализаций: функции и механизмы безопасности

Команда ежедневно работает над созданием технических и нетехнических инструментов для работы с потенциальными этическими и социальными рисками, связанными с диффузионными технологиями. Кроме того, вклад сообщества бесценен для обеспечения реализации этих функций и повышения осведомленности о них.

- [**Вкладка Community**](https://huggingface.co/docs/hub/repositories-pull-requests-discussions): она позволяет сообществу обсуждать и эффективнее сотрудничать над проектом.

- **Исследование и оценка смещений**: команда Hugging Face предоставляет [пространство](https://huggingface.co/spaces/society-ethics/DiffusionBiasExplorer) для интерактивной демонстрации смещений в Stable Diffusion. В этом смысле мы поддерживаем и поощряем исследование и оценку смещений.

- **Обеспечение безопасности при развёртывании**

  - [**Safe Stable Diffusion**](https://huggingface.co/docs/diffusers/main/en/api/pipelines/stable_diffusion/stable_diffusion_safe): позволяет смягчить хорошо известную проблему, при которой модели, такие как Stable Diffusion, обученные на необработанных данных, собранных из веба, склонны к нежелательной деградации. Связанная статья: [Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models](https://huggingface.co/papers/2211.05105).

  - [**Safety Checker**](https://github.com/huggingface/diffusers/blob/main/src/diffusers/pipelines/stable_diffusion/safety_checker.py): он проверяет и сравнивает вероятность класса набора заранее заданных вредоносных концепций в пространстве эмбеддингов с изображением после его генерации. Вредоносные концепции намеренно скрыты, чтобы предотвратить обратный инжиниринг проверяющего модуля.

- **Поэтапное размещение на Hub**: в особо чувствительных ситуациях доступ к некоторым репозиториям должен быть ограничен. Поэтапное размещение — это промежуточный шаг, который позволяет авторам репозитория лучше контролировать его использование.

- **Лицензирование**: [OpenRAILs](https://huggingface.co/blog/open_rail) — новый тип лицензирования, который позволяет нам обеспечить свободный доступ, сохраняя при этом набор ограничений, гарантирующих более ответственное использование.