Buckets:

hf-doc-build
/

doc

Files

xet

hf-doc-build/doc / diffusers /main /ru /conceptual /ethical_guidelines.md

mishig

1 day ago

preview code

download

raw

8.18 kB

# 🧨 Этические принципы Diffusers

## Введение

[Diffusers](../index) предоставляет предварительно обученные диффузионные модели и служит модульным инструментарием для вывода и обучения.

Учитывая реальные применения в мире и потенциальное негативное влияние на общество, мы считаем важным предоставить проекту этические руководящие принципы, которые будут направлять разработку, вклад пользователей и использование библиотеки Diffusers.

Риски, связанные с использованием этой технологии, продолжают изучаться, но можно выделить несколько: проблемы с авторскими правами для художников; эксплуатация дипфейков; генерация сексуального контента в неподходящем контексте; неконсенсуальная имперсонация; вредные социальные предубеждения, поддерживающие угнетение маргинализированных групп. Мы будем продолжать отслеживать риски и адаптировать следующие рекомендации на основе реакции сообщества и ценной обратной связи.

## Область применения

Сообщество Diffusers будет применять следующие этические принципы к разработке проекта и помогать координировать процесс интеграции вклада участников, особенно в отношении чувствительных тем, связанных с этическими вопросами.

## Этические принципы

Перечисленные ниже этические принципы носят общий характер, однако мы будем в первую очередь применять их при принятии технических решений в ситуациях, связанных с этически чувствительными вопросами. Кроме того, мы обязуемся со временем адаптировать эти этические принципы в ответ на новые риски, связанные с развитием передовых технологий в данной области.

- **Прозрачность**: мы стремимся к прозрачности в управлении PR, объясняем пользователям наши решения и принимаем технические решения открыто.

- **Согласованность**: мы стремимся обеспечить пользователям одинаковый уровень внимания к управлению проектом, поддерживая его техническую стабильность и согласованность.

- **Простота**: стремясь сделать библиотеку Diffusers удобной в использовании и эксплуатации, мы придерживаемся чётких и согласованных целей проекта.

- **Доступность**: проект Diffusers помогает снизить порог входа для участников, которые могут помочь в его работе даже без технического опыта. Это делает исследовательские артефакты более доступными для сообщества.

- **Воспроизводимость**: мы стремимся быть прозрачными в отношении воспроизводимости исходного кода, моделей и наборов данных, когда они становятся доступными через библиотеку Diffusers.

- **Ответственность**: как сообщество и благодаря командной работе мы несем коллективную ответственность перед нашими пользователями, предвидя и снижая потенциальные риски и опасности, связанные с этой технологией.

## Примеры реализаций: функции и механизмы безопасности

Команда ежедневно работает над созданием технических и нетехнических инструментов для работы с потенциальными этическими и социальными рисками, связанными с диффузионными технологиями. Кроме того, вклад сообщества бесценен для обеспечения реализации этих функций и повышения осведомленности о них.

- [**Вкладка Community**](https://huggingface.co/docs/hub/repositories-pull-requests-discussions): она позволяет сообществу обсуждать и эффективнее сотрудничать над проектом.

- **Исследование и оценка смещений**: команда Hugging Face предоставляет [пространство](https://huggingface.co/spaces/society-ethics/DiffusionBiasExplorer) для интерактивной демонстрации смещений в Stable Diffusion. В этом смысле мы поддерживаем и поощряем исследование и оценку смещений.

- **Обеспечение безопасности при развёртывании**

  - **Safe Stable Diffusion**: решает известную проблему, при которой модели, такие как Stable Diffusion, обученные на необработанных данных, собранных из веба, склонны к нежелательной деградации. Связанная статья: [Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models](https://huggingface.co/papers/2211.05105).

  - [**Safety Checker**](https://github.com/huggingface/diffusers/blob/main/src/diffusers/pipelines/stable_diffusion/safety_checker.py): он проверяет и сравнивает вероятность класса набора заранее заданных вредоносных концепций в пространстве эмбеддингов с изображением после его генерации. Вредоносные концепции намеренно скрыты, чтобы предотвратить обратный инжиниринг проверяющего модуля.

- **Поэтапное размещение на Hub**: в особо чувствительных ситуациях доступ к некоторым репозиториям должен быть ограничен. Поэтапное размещение — это промежуточный шаг, который позволяет авторам репозитория лучше контролировать его использование.

- **Лицензирование**: [OpenRAILs](https://huggingface.co/blog/open_rail) — новый тип лицензирования, который позволяет нам обеспечить свободный доступ, сохраняя при этом набор ограничений, гарантирующих более ответственное использование.

Xet Storage Details

Size:: 8.18 kB
Xet hash:: b9d36cd5ab2b7df0a24eeabff8c037434e697bb1800cf18170ab91db709db2bd

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.

	# 🧨 Этические принципы Diffusers

	## Введение

	[Diffusers](../index) предоставляет предварительно обученные диффузионные модели и служит модульным инструментарием для вывода и обучения.

	Учитывая реальные применения в мире и потенциальное негативное влияние на общество, мы считаем важным предоставить проекту этические руководящие принципы, которые будут направлять разработку, вклад пользователей и использование библиотеки Diffusers.

	Риски, связанные с использованием этой технологии, продолжают изучаться, но можно выделить несколько: проблемы с авторскими правами для художников; эксплуатация дипфейков; генерация сексуального контента в неподходящем контексте; неконсенсуальная имперсонация; вредные социальные предубеждения, поддерживающие угнетение маргинализированных групп. Мы будем продолжать отслеживать риски и адаптировать следующие рекомендации на основе реакции сообщества и ценной обратной связи.

	## Область применения

	Сообщество Diffusers будет применять следующие этические принципы к разработке проекта и помогать координировать процесс интеграции вклада участников, особенно в отношении чувствительных тем, связанных с этическими вопросами.

	## Этические принципы

	Перечисленные ниже этические принципы носят общий характер, однако мы будем в первую очередь применять их при принятии технических решений в ситуациях, связанных с этически чувствительными вопросами. Кроме того, мы обязуемся со временем адаптировать эти этические принципы в ответ на новые риски, связанные с развитием передовых технологий в данной области.

	- Прозрачность: мы стремимся к прозрачности в управлении PR, объясняем пользователям наши решения и принимаем технические решения открыто.

	- Согласованность: мы стремимся обеспечить пользователям одинаковый уровень внимания к управлению проектом, поддерживая его техническую стабильность и согласованность.

	- Простота: стремясь сделать библиотеку Diffusers удобной в использовании и эксплуатации, мы придерживаемся чётких и согласованных целей проекта.

	- Доступность: проект Diffusers помогает снизить порог входа для участников, которые могут помочь в его работе даже без технического опыта. Это делает исследовательские артефакты более доступными для сообщества.

	- Воспроизводимость: мы стремимся быть прозрачными в отношении воспроизводимости исходного кода, моделей и наборов данных, когда они становятся доступными через библиотеку Diffusers.

	- Ответственность: как сообщество и благодаря командной работе мы несем коллективную ответственность перед нашими пользователями, предвидя и снижая потенциальные риски и опасности, связанные с этой технологией.

	## Примеры реализаций: функции и механизмы безопасности

	Команда ежедневно работает над созданием технических и нетехнических инструментов для работы с потенциальными этическими и социальными рисками, связанными с диффузионными технологиями. Кроме того, вклад сообщества бесценен для обеспечения реализации этих функций и повышения осведомленности о них.

	- [Вкладка Community](https://huggingface.co/docs/hub/repositories-pull-requests-discussions): она позволяет сообществу обсуждать и эффективнее сотрудничать над проектом.

	- Исследование и оценка смещений: команда Hugging Face предоставляет [пространство](https://huggingface.co/spaces/society-ethics/DiffusionBiasExplorer) для интерактивной демонстрации смещений в Stable Diffusion. В этом смысле мы поддерживаем и поощряем исследование и оценку смещений.

	- Обеспечение безопасности при развёртывании

	- Safe Stable Diffusion: решает известную проблему, при которой модели, такие как Stable Diffusion, обученные на необработанных данных, собранных из веба, склонны к нежелательной деградации. Связанная статья: [Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models](https://huggingface.co/papers/2211.05105).

	- [Safety Checker](https://github.com/huggingface/diffusers/blob/main/src/diffusers/pipelines/stable_diffusion/safety_checker.py): он проверяет и сравнивает вероятность класса набора заранее заданных вредоносных концепций в пространстве эмбеддингов с изображением после его генерации. Вредоносные концепции намеренно скрыты, чтобы предотвратить обратный инжиниринг проверяющего модуля.

	- Поэтапное размещение на Hub: в особо чувствительных ситуациях доступ к некоторым репозиториям должен быть ограничен. Поэтапное размещение — это промежуточный шаг, который позволяет авторам репозитория лучше контролировать его использование.

	- Лицензирование: [OpenRAILs](https://huggingface.co/blog/open_rail) — новый тип лицензирования, который позволяет нам обеспечить свободный доступ, сохраняя при этом набор ограничений, гарантирующих более ответственное использование.