Buckets:

mishig's picture
|
download
raw
10.4 kB

Bria Fibo

Les modèles de génération d'images à partir de texte ont maîtrisé l'imagination - mais pas le contrôle. FIBO change la donne.

FIBO est entraîné sur des légendes JSON structurées d’une longueur pouvant dépasser 1 000 mots et conçu pour comprendre et contrôler différents paramètres visuels tels que l’éclairage, la composition, la couleur et les réglages de l’appareil photo, permettant ainsi des sorties précises et reproductibles.

Avec seulement 8 milliards de paramètres, FIBO offre un nouveau niveau de qualité d'image, de respect du prompt et de contrôle professionnel.

FIBO est entraîné exclusivement sur des prompts structurés et ne fonctionne pas avec des prompts de texte libre. Vous pouvez utiliser le modèle FIBO-VLM-prompt-to-JSON ou le modèle FIBO-gemini-prompt-to-JSON pour convertir votre prompt de texte libre en prompt JSON structuré.

Évitez d'utiliser des prompts de texte libre directement avec FIBO, car cela ne produit pas les meilleurs résultats.

Consultez la page Hugging Face de Bria Fibo pour en savoir plus.

Utilisation

Le modèle étant soumis à une autorisation, avant de l’utiliser avec diffusers, vous devez d’abord accéder à la page Hugging Face de Bria Fibo, remplir le formulaire et accepter l’accès. Une fois autorisé, vous devez vous connecter afin que votre système prenne en compte votre acceptation.

Utilisez la commande ci-dessous pour vous connecter :

hf auth login

BriaFiboPipeline[[diffusers.BriaFiboPipeline]]

diffusers.BriaFiboPipeline[[diffusers.BriaFiboPipeline]]

diffusers.BriaFiboPipeline(transformer: BriaFiboTransformer2DModel, scheduler: diffusers.schedulers.scheduling_flow_match_euler_discrete.FlowMatchEulerDiscreteScheduler | diffusers.schedulers.scheduling_utils.KarrasDiffusionSchedulers, vae: AutoencoderKLWan, text_encoder: SmolLM3ForCausalLM, tokenizer: AutoTokenizer)

Source

Paramètres :

transformer (BriaFiboTransformer2DModel) : Le modèle de transformer pour la modélisation de diffusion 2D.

scheduler (FlowMatchEulerDiscreteScheduler ou KarrasDiffusionSchedulers) : Planificateur à utiliser avec transformer pour débruyer les latents encodés.

vae (AutoencoderKLWan) : Auto-encodeur variationnel pour encoder et décoder des images vers et depuis des représentations latentes.

text_encoder (SmolLM3ForCausalLM) : Encodeur de texte pour le traitement des invites d'entrée.

tokenizer (AutoTokenizer) : Tokenizer utilisé pour traiter les prompts de texte en entrée destinés au text_encoder.

appel[[diffusers.BriaFiboPipeline.call]]

__call__(prompt: str | list[str] = None, height: int | None = None, width: int | None = None, num_inference_steps: int = 30, timesteps: list[int] = None, guidance_scale: float = 5, negative_prompt: str | list[str] | None = None, num_images_per_prompt: int | None = 1, generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = None, latents: typing.Optional[torch.FloatTensor] = None, output_type: str | None = 'pil', return_dict: bool = True, joint_attention_kwargs: dict[str, typing.Any] | None = None, callback_on_step_end: typing.Optional[typing.Callable[[int, int], NoneType]] = None, callback_on_step_end_tensor_inputs: list[str] = ['latents'], max_sequence_length: int = 3000, do_patching = False)

Source

Paramètres :

prompt (str ou list[str]) : Le prompt ou les prompts pour guider la génération d'image.

height (int, facultatif, par défaut self.unet.config.sample_size * self.vae_scale_factor) : La hauteur en pixels de l'image générée. Cette valeur est fixée à 1024 par défaut pour obtenir les meilleurs résultats.

width (int, facultatif, par défaut self.unet.config.sample_size * self.vae_scale_factor) : La largeur en pixels de l'image générée. Cette valeur est fixée à 1024 par défaut pour obtenir les meilleurs résultats.

num_inference_steps (int, facultatif, valeur par défaut 50) : Le nombre d'étapes de débruitage. Un plus grand nombre d'étapes de débruitage conduit généralement à une image de meilleure qualité, au prix d'une inférence plus lente.

timesteps (list[int], facultatif) : Étapes de temps personnalisées à utiliser pour le processus de débruitage avec les planificateurs qui prennent en charge un argument timesteps dans leur méthode set_timesteps. S'il n'est pas défini, le comportement par défaut lorsque num_inference_steps est passé sera utilisé. Doit être dans l'ordre décroissant.

guidance_scale (float, facultatif, valeur par défaut 5.0) : Échelle de guidage telle que définie dans Classifier-Free Diffusion Guidance. guidance_scale est défini comme w de l'équation 2. de Imagen Paper. L'échelle de guidage est activée en définissant guidance_scale > 1. Une échelle de guidage plus élevée encourage la génération d'images étroitement liées au prompt texte, généralement au détriment de la qualité de l'image.

negative_prompt (str ou list[str], facultatif) : Le prompt ou les prompts à ne pas utiliser pour guider la génération d'image. Ignoré lorsque la guidance n'est pas utilisée (c'est-à-dire ignoré si guidance_scale est inférieur à 1).

num_images_per_prompt (int, facultatif, valeur par défaut 1) : Le nombre d'images à générer par invite.

generator (torch.Generator ou list[torch.Generator], facultatif) : Un ou une liste de générateurs torch pour rendre la génération déterministe.

latents (torch.FloatTensor, facultatif) : Latents bruités pré-générés, échantillonnés à partir d'une distribution gaussienne, à utiliser comme entrées pour la génération d'images. Peut être utilisé pour ajuster la même génération avec des prompts différents. S'il n'est pas fourni, un tenseur de latents sera généré par échantillonnage à l'aide du generator aléatoire fourni.

output_type (str, facultatif, par défaut "pil") : Le format de sortie de l'image générée. Choisissez entre PIL : PIL.Image.Image ou np.array.

return_dict (bool, facultatif, par défaut True) : Indique s'il faut retourner un ~pipelines.stable_diffusion_xl.StableDiffusionXLPipelineOutput plutôt qu'un simple tuple.

joint_attention_kwargs (dict, facultatif) : Un dictionnaire de kwargs qui, s'il est spécifié, est transmis à l'AttentionProcessor tel que défini sous self.processor dans diffusers.models.attention_processor.

callback_on_step_end (Callable, facultatif) : une fonction appelée à la fin de chaque étape de débruitage pendant l’inférence. La fonction est appelée avec les arguments suivants : callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict). callback_kwargs contiendra une liste de tous les tenseurs, tels que spécifiés par callback_on_step_end_tensor_inputs.

callback_on_step_end_tensor_inputs (List, facultatif) : La liste des entrées de tenseurs pour la fonction callback_on_step_end. Les tenseurs spécifiés dans la liste seront passés en tant qu'argument callback_kwargs. Vous ne pourrez inclure que les variables listées dans l'attribut ._callback_tensor_inputs de votre classe de pipeline.

max_sequence_length (int par défaut 3000) : Longueur maximale de la séquence à utiliser avec le prompt.

do_patching (bool, facultatif, par défaut False) : Indique s'il faut utiliser le patching.

Retourne : ~pipelines.flux.BriaFiboPipelineOutput ou tuple

~pipelines.flux.BriaFiboPipelineOutput si return_dict est True, sinon un tuple. En cas de retour d'un tuple, le premier élément est une liste contenant les images générées.

Fonction appelée lors de l'appel du pipeline pour la génération.

Exemple :

import torch
from diffusers import BriaFiboPipeline
from diffusers.modular_pipelines import ModularPipeline

torch.set_grad_enabled(False)
vlm_pipe = ModularPipeline.from_pretrained("briaai/FIBO-VLM-prompt-to-JSON", trust_remote_code=True)

pipe = BriaFiboPipeline.from_pretrained(
    "briaai/FIBO",
    trust_remote_code=True,
    torch_dtype=torch.bfloat16,
)
pipe.enable_model_cpu_offload()

with torch.inference_mode():
    # 1. Create a prompt to generate an initial image
    output = vlm_pipe(prompt="a beautiful dog")
    json_prompt_generate = output.values["json_prompt"]

    # Generate the image from the structured json prompt
    results_generate = pipe(prompt=json_prompt_generate, num_inference_steps=50, guidance_scale=5)
    results_generate.images[0].save("image_generate.png")

encode_prompt[[diffusers.BriaFiboPipeline.encode_prompt]]

encode_prompt(prompt: str | list[str], device: typing.Optional[torch.device] = None, num_images_per_prompt: int = 1, guidance_scale: float = 5, negative_prompt: str | list[str] | None = None, max_sequence_length: int = 3000, lora_scale: float | None = None)

Source

Paramètres :

prompt (str ou list[str], facultatif) : invite à encoder

device : (torch.device) : appareil torch

num_images_per_prompt (int) : nombre d'images à générer par invite

guidance_scale (float) : Échelle de guidage pour le guidage sans classifieur.

negative_prompt (str ou list[str], facultatif) : Le prompt ou les prompts à ne pas utiliser pour guider la génération d'image. Ignoré lorsque la guidance n'est pas utilisée (c'est-à-dire ignoré si guidance_scale est inférieur à 1).

Xet Storage Details

Size:
10.4 kB
·
Xet hash:
2901fefa237778b7d86d1852c632a378fad86d48723007eee1b215923e9fd670

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.