Hugging Face's logo

Buckets:
hf-doc-build
/
doc

Files
xet
hf-doc-build/doc / diffusers /main /id /conceptual /ethical_guidelines.html
mishig's picture
mishig
download
raw
17 kB
<meta charset="utf-8" /><meta name="hf:doc:metadata" content="{&quot;title&quot;:&quot;🧨 Pedoman Etika Diffusers&quot;,&quot;local&quot;:&quot;-diffusers-ethical-guidelines&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;Pembuka&quot;,&quot;local&quot;:&quot;preamble&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Cakupan&quot;,&quot;local&quot;:&quot;scope&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Pedoman etika&quot;,&quot;local&quot;:&quot;ethical-guidelines&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Contoh implementasi: Fitur dan Mekanisme Keamanan&quot;,&quot;local&quot;:&quot;examples-of-implementations-safety-features-and-mechanisms&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2}],&quot;depth&quot;:1}"/>
<link href="/docs/diffusers/main/en/_app/immutable/entry/start.D3LnKZ4R.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/BF9UNEM9.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/DPnyVmXs.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/entry/app.C0rBoMxR.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/DSGUT_OW.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/C045MWWx.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/DnVIJfC5.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/DsnmJJEf.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/nodes/0.DTZsP_3B.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/IaDvMxLQ.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/nodes/305.y1leBoVw.js" rel="modulepreload">
<link href="/docs/diffusers/main/en/_app/immutable/chunks/bKdwVYpU.js" rel="modulepreload">
<!--14ish3w--><meta name="hf:doc:metadata" content="{&quot;title&quot;:&quot;🧨 Diffusers’ Ethical Guidelines&quot;,&quot;local&quot;:&quot;-diffusers-ethical-guidelines&quot;,&quot;sections&quot;:[{&quot;title&quot;:&quot;Preamble&quot;,&quot;local&quot;:&quot;preamble&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Scope&quot;,&quot;local&quot;:&quot;scope&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Ethical guidelines&quot;,&quot;local&quot;:&quot;ethical-guidelines&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2},{&quot;title&quot;:&quot;Examples of implementations: Safety features and Mechanisms&quot;,&quot;local&quot;:&quot;examples-of-implementations-safety-features-and-mechanisms&quot;,&quot;sections&quot;:[],&quot;depth&quot;:2}],&quot;depth&quot;:1}"/><!---->
<link href="/docs/diffusers/main/en/_app/immutable/assets/0.tn0RQdqM.css" rel="modulepreload"> <!--[--><!--[0--><!--[--><!--[0--><!--[--><p></p> <div class="items-center shrink-0 min-w-[100px] max-sm:min-w-[50px] justify-end ml-auto flex" style="float: inline-end; margin-inline-start: 10px; display: inline-flex; position: relative; z-index: 10;"><div dir="ltr" class="inline-flex rounded-md max-sm:rounded-sm"><button class="inline-flex items-center gap-1 h-7 max-sm:h-7 px-2 max-sm:px-1.5 text-sm font-medium text-gray-800 border border-r-0 rounded-l-md max-sm:rounded-l-sm border-gray-200 bg-white hover:shadow-inner dark:border-gray-850 dark:bg-gray-950 dark:text-gray-200 dark:hover:bg-gray-800" aria-live="polite"><span class="inline-flex items-center justify-center rounded-md p-0.5 max-sm:p-0 hover:text-gray-800 dark:hover:text-gray-200"><svg class="sm:size-3.5 size-3" xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M28,10V28H10V10H28m0-2H10a2,2,0,0,0-2,2V28a2,2,0,0,0,2,2H28a2,2,0,0,0,2-2V10a2,2,0,0,0-2-2Z" transform="translate(0)"></path><path d="M4,18H2V4A2,2,0,0,1,4,2H18V4H4Z" transform="translate(0)"></path><rect fill="none" width="32" height="32"></rect></svg><!----></span> <span dir="auto">Copy page</span></button> <button class="inline-flex items-center justify-center w-6 max-sm:w-5 h-7 max-sm:h-7 disabled:pointer-events-none text-sm text-gray-500 hover:text-gray-700 dark:hover:text-white rounded-r-md max-sm:rounded-r-sm border border-l transition border-gray-200 bg-white hover:shadow-inner dark:border-gray-850 dark:bg-gray-950 dark:text-gray-200 dark:hover:bg-gray-800" aria-haspopup="menu" aria-expanded="false" aria-label="Open copy menu"><svg class="transition-transform text-gray-400 overflow-visible sm:size-3.5 size-3 rotate-0" width="1em" height="1em" viewBox="0 0 12 7" fill="none" xmlns="http://www.w3.org/2000/svg"><path d="M1 1L6 6L11 1" stroke="currentColor"></path></svg><!----></button></div> <!--[-1--><!--]--></div><!----> <!--[0--><h1 class="relative group"><a id="-diffusers-ethical-guidelines" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#-diffusers-ethical-guidelines"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span><!---->🧨 Pedoman Etika Diffusers<!----></span></h1><!--]--><!----> <!--[1--><h2 class="relative group"><a id="preamble" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#preamble"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span><!---->Pembuka<!----></span></h2><!--]--><!----> <p><a href="../index">Diffusers</a> menyediakan model difusi yang telah dilatih sebelumnya dan berfungsi sebagai kotak perkakas modular untuk inferensi dan pelatihan.</p> <p>Mengingat aplikasi kasus nyata di dunia dan potensi dampak negatifnya terhadap masyarakat, kami menganggap penting untuk menyediakan pedoman etika bagi proyek ini guna memandu pengembangan, kontribusi pengguna, dan penggunaan pustaka Diffusers.</p> <p>Risiko yang terkait dengan penggunaan teknologi ini masih terus diteliti, namun beberapa contohnya adalah: masalah hak cipta bagi para seniman; eksploitasi deep-fake; pembuatan konten seksual dalam konteks yang tidak pantas; peniruan tanpa persetujuan; bias sosial yang merugikan yang melanggengkan penindasan terhadap kelompok marginal.
Kami akan terus memantau risiko dan menyesuaikan pedoman berikut berdasarkan respons komunitas dan umpan balik yang berharga.</p> <!--[1--><h2 class="relative group"><a id="scope" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#scope"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span><!---->Cakupan<!----></span></h2><!--]--><!----> <p>Komunitas Diffusers akan menerapkan pedoman etika berikut dalam pengembangan proyek dan membantu mengoordinasikan cara komunitas mengintegrasikan kontribusi, terutama yang berkaitan dengan topik sensitif terkait kekhawatiran etika.</p> <!--[1--><h2 class="relative group"><a id="ethical-guidelines" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#ethical-guidelines"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span><!---->Pedoman etika<!----></span></h2><!--]--><!----> <p>Pedoman etika berikut berlaku secara umum, namun kami akan terutama menerapkannya saat menangani isu-isu yang sensitif secara etika dalam membuat pilihan teknis. Selain itu, kami berkomitmen untuk menyesuaikan prinsip-prinsip etika tersebut seiring waktu, mengikuti kerugian yang muncul terkait perkembangan terkini dari teknologi yang dimaksud.</p> <ul><li><p><strong>Transparansi</strong>: kami berkomitmen untuk transparan dalam mengelola PR, menjelaskan pilihan kami kepada pengguna, dan mengambil keputusan teknis.</p></li> <li><p><strong>Konsistensi</strong>: kami berkomitmen untuk menjamin pengguna kami mendapatkan tingkat perhatian yang sama dalam manajemen proyek, menjaganya tetap stabil dan konsisten secara teknis.</p></li> <li><p><strong>Simplicity</strong>: dengan keinginan untuk memudahkan penggunaan dan pemanfaatan pustaka Diffusers, kami berkomitmen untuk menjaga tujuan proyek tetap ringkas dan koheren.</p></li> <li><p><strong>Aksesibilitas</strong>: proyek Diffusers membantu menurunkan ambang batas bagi kontributor yang dapat membantu menjalankannya bahkan tanpa keahlian teknis. Dengan demikian, artefak penelitian menjadi lebih mudah diakses oleh komunitas.</p></li> <li><p><strong>Reproduktibilitas</strong>: kami bertujuan untuk transparan mengenai reproduktibilitas kode, model, dan dataset hulu yang tersedia melalui pustaka Diffusers.</p></li> <li><p><strong>Tanggung jawab</strong>: sebagai komunitas dan melalui kerja sama tim, kami memiliki tanggung jawab kolektif terhadap pengguna kami dengan mengantisipasi dan memitigasi potensi risiko dan bahaya teknologi ini.</p></li></ul> <!--[1--><h2 class="relative group"><a id="examples-of-implementations-safety-features-and-mechanisms" class="header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full" href="#examples-of-implementations-safety-features-and-mechanisms"><span><svg xmlns="http://www.w3.org/2000/svg" xmlns:xlink="http://www.w3.org/1999/xlink" aria-hidden="true" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 256 256"><path d="M167.594 88.393a8.001 8.001 0 0 1 0 11.314l-67.882 67.882a8 8 0 1 1-11.314-11.315l67.882-67.881a8.003 8.003 0 0 1 11.314 0zm-28.287 84.86l-28.284 28.284a40 40 0 0 1-56.567-56.567l28.284-28.284a8 8 0 0 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"></path></svg><!----></span></a> <span><!---->Contoh implementasi: Fitur dan Mekanisme Keamanan<!----></span></h2><!--]--><!----> <p>Tim ini bekerja setiap hari untuk menyediakan alat teknis dan non-teknis guna mengatasi potensi risiko etis dan sosial yang terkait dengan teknologi difusi. Selain itu, masukan dari komunitas sangat berharga dalam memastikan implementasi fitur-fitur ini serta meningkatkan kesadaran bersama kami.</p> <ul><li><p><a href="https://huggingface.co/docs/hub/repositories-pull-requests-discussions" rel="nofollow"><strong>Tab Komunitas</strong></a>: memungkinkan komunitas untuk berdiskusi dan berkolaborasi dengan lebih baik pada sebuah proyek.</p></li> <li><p><strong>Eksplorasi dan evaluasi bias</strong>: tim Hugging Face menyediakan <a href="https://huggingface.co/spaces/society-ethics/DiffusionBiasExplorer" rel="nofollow">space</a> untuk mendemonstrasikan bias dalam Stable Diffusion secara interaktif. Dalam hal ini, kami mendukung dan mendorong eksplorasi serta evaluasi bias.</p></li> <li><p><strong>Mendorong keamanan dalam deployment</strong></p> <ul><li><p><strong>Safe Stable Diffusion</strong>: Meringankan masalah yang sudah dikenal, yaitu model seperti Stable Diffusion yang dilatih pada dataset web-crawled tanpa filter cenderung mengalami degenerasi yang tidak pantas. Paper terkait: <a href="https://huggingface.co/papers/2211.05105" rel="nofollow">Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models</a>.</p></li> <li><p><a href="https://github.com/huggingface/diffusers/blob/main/src/diffusers/pipelines/stable_diffusion/safety_checker.py" rel="nofollow"><strong>Safety Checker</strong></a>: memeriksa dan membandingkan probabilitas kelas dari seperangkat konsep berbahaya yang di-hardcode di ruang embedding terhadap gambar setelah gambar tersebut dihasilkan. Konsep-konsep berbahaya ini sengaja disembunyikan untuk mencegah reverse engineering pada checker.</p></li></ul></li> <li><p><strong>Dirilis bertahap di Hub</strong>: dalam situasi yang sangat sensitif, akses ke beberapa repositori harus dibatasi. Rilis bertahap ini merupakan langkah perantara yang memungkinkan para penulis repositori memiliki kendali lebih besar atas penggunaannya.</p></li> <li><p><strong>Lisensi</strong>: <a href="https://huggingface.co/blog/open_rail" rel="nofollow">OpenRAILs</a>, jenis lisensi baru, memungkinkan kami untuk memastikan akses gratis sambil memiliki serangkaian pembatasan yang menjamin penggunaan yang lebih bertanggung jawab.</p></li></ul> <a class="!text-gray-400 !no-underline text-sm flex items-center not-prose mt-4" href="https://github.com/huggingface/diffusers/blob/main/docs/source/en/conceptual/ethical_guidelines.md" target="_blank"><svg class="mr-1" xmlns="http://www.w3.org/2000/svg" aria-hidden="true" fill="currentColor" focusable="false" role="img" width="1em" height="1em" preserveAspectRatio="xMidYMid meet" viewBox="0 0 32 32"><path d="M31,16l-7,7l-1.41-1.41L28.17,16l-5.58-5.59L24,9l7,7z"></path><path d="M1,16l7-7l1.41,1.41L3.83,16l5.58,5.59L8,23l-7-7z"></path><path d="M12.419,25.484L17.639,6.552l1.932,0.518L14.351,26.002z"></path></svg><!----> <span><span class="underline">Update</span> on GitHub</span></a><!----> <p></p><!--]--><!----><!--]--><!--]--><!--]--> <!--[-1--><!--]--><!--]-->
<script>
{
__sveltekit_g37pnb = {
base: "/docs/diffusers/main/en",
assets: "/docs/diffusers/main/en"
};
const element = document.currentScript.parentElement;
Promise.all([
import("/docs/diffusers/main/en/_app/immutable/entry/start.D3LnKZ4R.js"),
import("/docs/diffusers/main/en/_app/immutable/entry/app.C0rBoMxR.js")
]).then(([kit, app]) => {
kit.start(app, element, {
node_ids: [0, 305],
data: [null,null],
form: null,
error: null
});
});
}
</script>

Xet Storage Details

Size:
17 kB
·
Xet hash:
8bad63bbdde2046c72b2e57598440404691c47adb7ab4b6cacb7db8b8da9e7d4

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.