diffusers/main/id/api/pipelines/bria_fibo_edit.md

Bria Fibo Edit

Fibo Edit adalah model image-to-image dengan 8B parameter yang memperkenalkan paradigma baru kontrol terstruktur, beroperasi pada input JSON yang dipasangkan dengan gambar sumber untuk memungkinkan alur kerja editing yang deterministik dan dapat diulang. Dengan fitur masking native untuk presisi granular, model ini melampaui difusi berbasis prompt sederhana dengan menawarkan kontrol eksplisit dan dapat diinterpretasi yang dioptimalkan untuk lingkungan produksi. Arsitektur ringannya dirancang untuk kustomisasi mendalam, memberdayakan peneliti untuk membangun model "Edit" khusus untuk tugas-tugas domain tertentu sambil tetap memberikan kualitas estetika kelas atas

Lihat halaman Bria Fibo Edit di Hugging Face untuk mempelajari lebih lanjut. Checkpoint yang telah didistilasi tersedia di Fibo-Edit-1.5-turbo.

Penggunaan

Karena model ini bersifat gated, sebelum menggunakannya dengan diffusers Anda perlu terlebih dahulu membuka halaman Bria Fibo Edit di Hugging Face, mengisi formulir, dan menerima gate. Setelah Anda masuk, Anda perlu login agar sistem mengetahui bahwa Anda telah menerima gate.

Gunakan perintah di bawah ini untuk masuk:

hf auth login

BriaFiboEditPipeline[[diffusers.BriaFiboEditPipeline]]

diffusers.BriaFiboEditPipeline[[diffusers.BriaFiboEditPipeline]]

diffusers.BriaFiboEditPipeline(transformer: BriaFiboTransformer2DModel, scheduler: typing.Union[diffusers.schedulers.scheduling_flow_match_euler_discrete.FlowMatchEulerDiscreteScheduler, diffusers.schedulers.scheduling_utils.KarrasDiffusionSchedulers], vae: AutoencoderKLWan, text_encoder: SmolLM3ForCausalLM, tokenizer: AutoTokenizer)

Sumber

Parameter:

transformer (BriaFiboTransformer2DModel) : Model transformer untuk pemodelan difusi 2D.

scheduler (FlowMatchEulerDiscreteScheduler atau KarrasDiffusionSchedulers) : Scheduler yang akan digunakan dengan transformer untuk menghilangkan noise dari latents yang telah dienkod.

vae (AutoencoderKLWan) : Variational Auto-Encoder untuk mengodekan dan mendekodekan gambar ke dan dari representasi laten.

text_encoder (SmolLM3ForCausalLM) : Pengkode teks untuk memproses prompt input.

tokenizer (AutoTokenizer) : Tokenizer yang digunakan untuk memproses prompt teks input untuk text_encoder.

call[[diffusers.BriaFiboEditPipeline.call]]

__call__(prompt: typing.Union[str, typing.List[str]] = None, image: typing.Union[PIL.Image.Image, typing.List[PIL.Image.Image], NoneType] = None, mask: typing.Union[torch.FloatTensor, PIL.Image.Image, typing.List[PIL.Image.Image], typing.List[torch.FloatTensor], numpy.ndarray, typing.List[numpy.ndarray], NoneType] = None, height: int | None = None, width: int | None = None, num_inference_steps: int = 30, timesteps: typing.List[int] = None, seed: int | None = None, guidance_scale: float = 5, negative_prompt: typing.Union[str, typing.List[str], NoneType] = None, num_images_per_prompt: typing.Optional[int] = 1, generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = None, latents: typing.Optional[torch.FloatTensor] = None, output_type: str = 'pil', return_dict: bool = True, joint_attention_kwargs: typing.Optional[typing.Dict[str, typing.Any]] = None, callback_on_step_end: typing.Optional[typing.Callable[[int, int, typing.Dict], NoneType]] = None, callback_on_step_end_tensor_inputs: typing.List[str] = ['latents'], max_sequence_length: int = 3000, do_patching = False, _auto_resize: bool = True)

Sumber

Parameter:

prompt (str atau List[str]) : Prompt atau prompt-prompt untuk mengarahkan generasi gambar.

image (PIL.Image.Image atau List[PIL.Image.Image], opsional) : Satu atau lebih gambar referensi untuk memandu generasi gambar. Daftar diinterpretasikan sebagai beberapa referensi (bukan batch): setiap referensi di-encode VAE pada rasio aspeknya sendiri dan ditempatkan pada bidang waktu RoPE-nya sendiri 1, 2, ... . Jika tidak didefinisikan, pipeline menghasilkan gambar dari awal.

mask (PipelineMaskInput, opsional) : Mask opsional yang mendefinisikan area dari image yang akan diedit. Piksel yang tertutup oleh mask akan diregenerasi, sementara bagian lain dari gambar dipertahankan.

height (int, opsional, defaultnya self.unet.config.sample_size * self.vae_scale_factor) : Tinggi gambar yang dihasilkan dalam piksel. Ini diatur ke 1024 secara default untuk hasil terbaik.

width (int, opsional, defaultnya self.unet.config.sample_size * self.vae_scale_factor) : Lebar gambar yang dihasilkan dalam piksel. Ini diatur ke 1024 secara default untuk hasil terbaik.

num_inference_steps (int, opsional, defaultnya 30) : Jumlah langkah denoising. Semakin banyak langkah denoising, biasanya menghasilkan gambar dengan kualitas lebih tinggi, namun dengan biaya inferensi yang lebih lambat.

seed (int, opsional) : Benih (seed) yang digunakan untuk membuat proses generasi menjadi deterministik.

timesteps (List[int], opsional) : Timesteps kustom untuk digunakan dalam proses denoising dengan scheduler yang mendukung argumen timesteps di metode set_timesteps mereka. Jika tidak didefinisikan, perilaku default saat num_inference_steps diteruskan akan digunakan. Harus dalam urutan menurun.

guidance_scale (float, opsional, default 5.0) : Skala panduan seperti yang didefinisikan dalam Classifier-Free Diffusion Guidance. guidance_scale didefinisikan sebagai w dari persamaan 2. pada Imagen Paper. Skala panduan diaktifkan dengan mengatur guidance_scale > 1. Skala panduan yang lebih tinggi mendorong generasi gambar yang sangat terkait dengan prompt teks, biasanya dengan mengorbankan kualitas gambar yang lebih rendah.

negative_prompt (str atau List[str], opsional) : Prompt atau prompt-prompt yang tidak akan memandu generasi gambar. Diabaikan saat tidak menggunakan panduan (yaitu, diabaikan jika guidance_scale kurang dari 1).

num_images_per_prompt (int, opsional, default 1) : Jumlah gambar yang akan dihasilkan per prompt.

generator (torch.Generator atau List[torch.Generator], opsional) : Satu atau daftar generator torch untuk membuat proses generasi menjadi deterministik.

latents (torch.FloatTensor, opsional) : Laten berisik yang telah dibuat sebelumnya, diambil dari distribusi Gaussian, untuk digunakan sebagai input untuk generasi gambar. Dapat digunakan untuk menyesuaikan generasi yang sama dengan prompt yang berbeda. Jika tidak disediakan, tensor laten akan dibuat dengan pengambilan sampel menggunakan generator acak yang diberikan.

output_type (str, opsional, defaultnya "pil") : Format output dari gambar yang dihasilkan. Pilih antara PIL: PIL.Image.Image atau np.array.

return_dict (bool, opsional, defaultnya True) : Apakah akan mengembalikan ~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput alih-alih tuple biasa.

joint_attention_kwargs (dict, opsional) : Kamus kwargs yang jika ditentukan akan diteruskan ke AttentionProcessor seperti yang didefinisikan di bawah self.processor dalam diffusers.models.attention_processor.

callback_on_step_end (Callable, opsional) : Fungsi yang dipanggil di akhir setiap langkah denoising selama inferensi. Fungsi ini dipanggil dengan argumen berikut: callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict). callback_kwargs akan berisi daftar semua tensor sesuai yang ditentukan oleh callback_on_step_end_tensor_inputs.

callback_on_step_end_tensor_inputs (List, opsional) : Daftar input tensor untuk fungsi callback_on_step_end. Tensor yang ditentukan dalam daftar akan diteruskan sebagai argumen callback_kwargs. Anda hanya dapat menyertakan variabel yang tercantum dalam atribut ._callback_tensor_inputs dari kelas pipeline Anda.

max_sequence_length (int defaultnya 3000) : Panjang maksimum urutan yang digunakan dengan prompt.

do_patching (bool, opsional, defaultnya False) : Apakah akan menggunakan patching.

_auto_resize (bool, opsional, defaultnya True) : Apakah resolusi output default (diambil dari gambar referensi pertama) akan diselaraskan ke resolusi yang disarankan.

Mengembalikan: ~pipelines.flux.BriaFiboPipelineOutput atau tuple

~pipelines.flux.BriaFiboPipelineOutput jika return_dict bernilai True, selain itu berupa tuple. Saat mengembalikan tuple, elemen pertama adalah daftar berisi gambar yang dihasilkan.

Fungsi yang dipanggil saat memanggil pipeline untuk generasi.

Contoh:

import torch
from PIL import Image

from diffusers import BriaFiboEditPipeline
from diffusers.modular_pipelines import ModularPipelineBlocks

# This prompt-to-JSON block calls Gemini and needs GEMINI_API_KEY in the environment.
vlm_pipe = ModularPipelineBlocks.from_pretrained("briaai/FIBO-edit-gemini-prompt-to-JSON", trust_remote_code=True)
vlm_pipe = vlm_pipe.init_pipeline()

pipe = BriaFiboEditPipeline.from_pretrained(
    "briaai/Fibo-Edit-1.5-base",
    torch_dtype=torch.bfloat16,
)
pipe.to("cuda")

image = Image.open("owl.png")
json_prompt = vlm_pipe(image=image, prompt="Make the owl into a cat").values["json_prompt"]

result = pipe(prompt=json_prompt, image=image, num_inference_steps=30, guidance_scale=5)

# Multiple reference images: pass a list. Each reference conditions the edit at its
# own aspect ratio; the output resolution follows the first reference.
owl, forest = Image.open("owl.png"), Image.open("forest.png")
json_prompt = vlm_pipe(
    image=[owl, forest], prompt="Place the owl from the first image in the forest from the second image"
).values["json_prompt"]
result = pipe(
    prompt=json_prompt,
    image=[owl, forest],
    num_inference_steps=30,
    guidance_scale=5,
)

# The distilled Turbo checkpoint edits in 4 steps without classifier-free guidance.
pipe = BriaFiboEditPipeline.from_pretrained("briaai/Fibo-Edit-1.5-turbo", torch_dtype=torch.bfloat16)
pipe.to("cuda")
result = pipe(prompt=json_prompt, image=[owl, forest], num_inference_steps=4, guidance_scale=1)

encode_prompt[[diffusers.BriaFiboEditPipeline.encode_prompt]]

encode_prompt(prompt: typing.Union[str, typing.List[str]], device: typing.Optional[torch.device] = None, num_images_per_prompt: int = 1, guidance_scale: float = 5, negative_prompt: typing.Union[str, typing.List[str], NoneType] = None, max_sequence_length: int = 3000, lora_scale: bool | None = None)

Sumber

Parameter:

prompt (str atau List[str], opsional) : prompt yang akan dienkod

device : (torch.device): perangkat torch

num_images_per_prompt (int) : jumlah gambar yang harus dihasilkan per prompt

guidance_scale (float) : Skala panduan untuk panduan bebas klasifikator.

negative_prompt (str atau List[str], opsional) : Prompt atau prompt-prompt yang tidak akan memandu generasi gambar. Diabaikan saat tidak menggunakan panduan (yaitu, diabaikan jika guidance_scale kurang dari 1).

prepare_reference_latents[[diffusers.BriaFiboEditPipeline.prepare_reference_latents]]

prepare_reference_latents(image: Image, num_channels_latents: int, dtype: dtype, device: device, do_patching: bool = False, reference_index: int = 1)

Sumber

VAE-encode satu referensi PIL pada ukuran aslinya dan kemas sebagai aliran token konteks edit.