Diffusers documentation

Inferência remota

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inferência remota

A inferência remota fornece acesso a um Inference Endpoint para transferir os requisitos de geração local para decodificação e codificação.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Parâmetros

  • endpoint (str) — Endpoint para Remote Decode.
  • tensor (torch.Tensor) — Tensor a ser decodificado.
  • processor (VaeImageProcessor ou VideoProcessor, opcional) — Usado com return_type="pt" e return_type="pil" para modelos de vídeo.
  • do_scaling (bool, padrão True, opcional) — DEPRECATED. use scaling_factor/shift_factor em vez disso. continue definindo do_scaling=None/do_scaling=False para não aplicar scaling até que a opção seja removida Quando True, o scaling, por exemplo latents / self.vae.config.scaling_factor, é aplicado remotamente. Se False, a entrada deve ser passada com o scaling já aplicado.
  • scaling_factor (float, opcional) — A escala é aplicada quando é passada, por exemplo, latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Se None, a entrada deve ser passada com a escala aplicada.
  • shift_factor (float, opcional) — O shift é aplicado quando é passado, por exemplo, latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Se None, a entrada deve ser passada com a escala aplicada.
  • output_type ("mp4" or "pil" or "pt", default “pil”) — Endpoint output type. Subject to change. Report feedback on preferred type.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recomendações: "pt" com partial_postprocess=True é a transferência menor para qualidade total. "pt" com partial_postprocess=False é o mais compatível com código de terceiros. "pil" com image_format="jpg" é a menor transferência no geral.

  • return_type ("mp4" ou "pil" ou "pt", default “) — Função tipo de retorno.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" ou "jpg", padrão jpg) — Usado com output_type="pil". O endpoint retorna jpg ou png.
  • partial_postprocess (bool, padrão False) — Usado com output_type="pt". O tensor partial_postprocess=False é float16 ou bfloat16, sem denormalização. O tensor partial_postprocess=True é uint8, denormalizado.
  • input_tensor_type ("binary", padrão "binary") — Tipo de transferência de tensor.
  • output_tensor_type ("binary", padrão "binary") — Tipo de transferência de tensor.
  • height (int, opcional) — Obrigatório para latentes "packed".
  • width (int, opcional) — Obrigatório para latentes "packed".

Hugging Face Hybrid Inference que permite executar o decodificação do VAE remotamente.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Parâmetros

  • endpoint (str) — Endpoint para Remote Decode.
  • image (torch.Tensor ou PIL.Image.Image) — Imagem a ser codificada.
  • scaling_factor (float, opcional) — A escala é aplicada quando fornecida, por exemplo, latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Se None, a entrada deve ser passada com a escala aplicada.
  • shift_factor (float, opcional) — O shift é aplicado quando é passado, por exemplo, latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Se None, a entrada deve ser passada com a escala aplicada.

Hugging Face Hybrid Inference que permite executar o encode do VAE remotamente.

Update on GitHub