Diffusers documentation

Inferencia remota

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inferencia remota

La inferencia remota proporciona acceso a un Inference Endpoint para descargar los requisitos de generación local para la decodificación y codificación.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Parámetros

  • endpoint (str) — Punto de acceso para Remote Decode.
  • tensor (torch.Tensor) — Tensor a decodificar.
  • processor (VaeImageProcessor o VideoProcessor, opcional) — Se usa con return_type="pt" y return_type="pil" para modelos de video.
  • do_scaling (bool, valor predeterminado True, opcional) — DESPRECADO. En su lugar, pase scaling_factor/shift_factor. sigue estableciendo do_scaling=None/do_scaling=False para no aplicar escalado hasta que se elimine la opción Cuando True, se aplica el escalado, por ejemplo latents / self.vae.config.scaling_factor, de forma remota. Si False, la entrada debe pasarse con el escalado ya aplicado.
  • scaling_factor (float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo, latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada aplicada.
  • shift_factor (float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo, latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.
  • output_type ("mp4" o "pil" o "pt", default “) — Tipo de salida del endpoint Tipo de salida del endpoint. Sujeto a cambios. Informe su opinión sobre el tipo preferido.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recomendaciones: "pt" con partial_postprocess=True es la transferencia más pequeña para calidad completa. "pt" con partial_postprocess=False es la más compatible con código de terceros. "pil" con image_format="jpg" es la transferencia más pequeña en general.

  • return_type ("mp4" o "pil" o "pt", default “) — Tipo de retorno de la función.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" o "jpg", por defecto jpg) — Se usa con output_type="pil". El punto de acceso devuelve jpg o png.
  • partial_postprocess (bool, por defecto False) — Se usa con output_type="pt". El tensor con partial_postprocess=False es de tipo float16 o bfloat16, sin denormalizar. El tensor con partial_postprocess=True es de tipo uint8, denormalizado.
  • input_tensor_type ("binary", por defecto "binary") — Tipo de transferencia de tensor.
  • output_tensor_type ("binary", por defecto "binary") — Tipo de transferencia de tensor.
  • height (int, opcional) — Obligatorio para latentes "packed".
  • width (int, opcional) — Obligatorio para latentes "packed".

Hugging Face Hybrid Inference, que permite ejecutar el decodificado de VAE de forma remota.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Parámetros

  • endpoint (str) — Punto de acceso para Remote Decode.
  • image (torch.Tensor o PIL.Image.Image) — Imagen que se codificará.
  • scaling_factor (float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo, latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada aplicada.
  • shift_factor (float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo, latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.

Hugging Face Hybrid Inference, que permite ejecutar la codificación VAE de forma remota.

Update on GitHub