🧨 Этические принципы Diffusers

Введение

Diffusers предоставляет предварительно обученные диффузионные модели и служит модульным инструментарием для вывода и обучения.

Учитывая реальные применения в мире и потенциальное негативное влияние на общество, мы считаем важным предоставить проекту этические руководящие принципы, которые будут направлять разработку, вклад пользователей и использование библиотеки Diffusers.

Риски, связанные с использованием этой технологии, продолжают изучаться, но можно выделить несколько: проблемы с авторскими правами для художников; эксплуатация дипфейков; генерация сексуального контента в неподходящем контексте; неконсенсуальная имперсонация; вредные социальные предубеждения, поддерживающие угнетение маргинализированных групп. Мы будем отслеживать риски и адаптировать следующие рекомендации на основе реакции сообщества и ценной обратной связи.

Область применения

Сообщество Diffusers будет применять следующие этические принципы к разработке проекта и помогать координировать процесс интеграции вклада участников, особенно в отношении чувствительных тем, связанных с этическими вопросами.

Этические принципы

Перечисленные ниже этические принципы носят общий характер, однако мы будем в первую очередь применять их при принятии технических решений в ситуациях, связанных с этически чувствительными вопросами. Кроме того, мы обязуемся со временем адаптировать эти этические принципы в ответ на новые риски, связанные с развитием передовых технологий в данной области.

• Прозрачность: мы стремимся к прозрачности в управлении PR, объясняем пользователям наши решения и принимаем технические решения открыто.

• Согласованность: мы стремимся обеспечить пользователям одинаковый уровень внимания к управлению проектом, поддерживая его техническую стабильность и согласованность.

• Простота: стремясь сделать библиотеку Diffusers удобной в использовании и эксплуатации, мы придерживаемся чётких и согласованных целей проекта.

• Доступность: проект Diffusers помогает снизить порог входа для участников, которые могут помочь в его работе даже без технического опыта. Это делает исследовательские артефакты более доступными для сообщества.

• Воспроизводимость: мы стремимся быть прозрачными в отношении воспроизводимости исходного кода, моделей и наборов данных, когда они становятся доступными через библиотеку Diffusers.

• Ответственность: как сообщество и благодаря командной работе мы несем коллективную ответственность перед нашими пользователями, предвидя и снижая потенциальные риски и опасности, связанные с этой технологией.

Примеры реализаций: функции и механизмы безопасности

Команда ежедневно работает над созданием технических и нетехнических инструментов для работы с потенциальными этическими и социальными рисками, связанными с диффузионными технологиями. Кроме того, вклад сообщества бесценен для обеспечения реализации этих функций и повышения осведомленности о них.

• Вкладка Community: она позволяет сообществу обсуждать и эффективнее сотрудничать над проектом.

• Исследование и оценка смещений: команда Hugging Face предоставляет пространство для интерактивной демонстрации смещений в Stable Diffusion. В этом смысле мы поддерживаем и поощряем исследование и оценку смещений.

• Обеспечение безопасности при развёртывании

  • Safe Stable Diffusion: решает известную проблему, при которой модели, такие как Stable Diffusion, обученные на необработанных данных, собранных из веба, склонны к нежелательной деградации. Связанная статья: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

  • Safety Checker: он проверяет и сравнивает вероятность класса набора заранее заданных вредоносных концепций в пространстве эмбеддингов с изображением после его генерации. Вредоносные концепции намеренно скрыты, чтобы предотвратить обратный инжиниринг проверяющего модуля.

• Поэтапное размещение на Hub: в особо чувствительных ситуациях доступ к некоторым репозиториям должен быть ограничен. Поэтапное размещение — это промежуточный шаг, который позволяет авторам репозитория лучше контролировать его использование.

• Лицензирование: OpenRAILs — новый тип лицензирования, который позволяет нам обеспечить свободный доступ, сохраняя при этом набор ограничений, гарантирующих более ответственное использование.