Buckets:

mishig's picture
|
download
raw
5.95 kB

Inferencia remota

La inferencia remota proporciona acceso a un Inference Endpoint para descargar los requisitos de generación local para la decodificación y codificación.

remote_decode[[diffusers.utils.remote_decode]]

diffusers.utils.remote_decode[[diffusers.utils.remote_decode]]

diffusers.utils.remote_decode(endpoint: str, tensor: 'torch.Tensor', processor: 'VaeImageProcessor' | 'VideoProcessor' | None = None, do_scaling: bool = True, scaling_factor: float | None = None, shift_factor: float | None = None, output_type: Literal['mp4', 'pil', 'pt'] = 'pil', return_type: Literal['mp4', 'pil', 'pt'] = 'pil', image_format: Literal['png', 'jpg'] = 'jpg', partial_postprocess: bool = False, input_tensor_type: Literal['binary'] = 'binary', output_tensor_type: Literal['binary'] = 'binary', height: int | None = None, width: int | None = None)

Fuente

Parámetros:

endpoint (str) : Punto de acceso para decodificación remota.

tensor (torch.Tensor) : Tensor a decodificar.

processor (VaeImageProcessor o VideoProcessor, opcional) : Se utiliza con return_type="pt" y return_type="pil" para modelos de video.

do_scaling (bool, por defecto True, opcional) : DEPRECATED. en su lugar, pase scaling_factor/shift_factor. sigue estableciendo do_scaling=None/do_scaling=False para no aplicar escalado hasta que se elimine la opción Cuando es True, se aplica el escalado de forma remota, por ejemplo latents / self.vae.config.scaling_factor. Si es False, la entrada debe pasarse con el escalado ya aplicado.

scaling_factor (float, opcional) : Se aplica la escalada cuando se pasa, por ejemplo, latents / self.vae.config.scaling_factor. - SD v1: 0.18215 - SD XL: 0.13025 - Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada ya aplicada.

shift_factor (float, opcional) : Se aplica el desplazamiento cuando se pasa, por ejemplo, latents + self.vae.config.shift_factor. - Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.

output_type ("mp4" or "pil" or "pt", default "pil") : Endpoint output type. Subject to change. Report feedback on preferred type. "mp4": Supported by video models. Endpoint returns bytesof video."pil": Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work)."pt": Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8image tensor. Recommendations:"pt"withpartial_postprocess=Trueis the smallest transfer for full quality."pt"withpartial_postprocess=Falseis the most compatible with third party code."pil"withimage_format="jpg"` is the smallest transfer overall.

return_type ("mp4" or "pil" or "pt", default "pil") : Function return type. "mp4": Function returns bytesof video."pil": Function returns PIL.Image.Image. With output_type="pil" no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required."pt": Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

image_format ("png" o "jpg", por defecto jpg) : Se usa con output_type="pil". El punto de acceso devuelve jpg o png.

partial_postprocess (bool, por defecto False) : Se usa con output_type="pt". partial_postprocess=False el tensor es float16 o bfloat16, sin denormalización. partial_postprocess=True el tensor es uint8, denormalizado.

input_tensor_type ("binary", por defecto "binary") : Tipo de transferencia de tensor.

output_tensor_type ("binary", por defecto "binary") : Tipo de transferencia de tensor.

height (int, opcional) : Obligatorio para latentes "packed".

width (int, opcional) : Obligatorio para latentes "packed".

Devuelve:

output (Image.Image o list[Image.Image] o bytes o torch.Tensor).

Hugging Face Hybrid Inference, que permite ejecutar el decodificado de VAE de forma remota.

remote_encode[[diffusers.utils.remote_utils.remote_encode]]

diffusers.utils.remote_utils.remote_encode[[diffusers.utils.remote_utils.remote_encode]]

diffusers.utils.remote_utils.remote_encode(endpoint: str, image: 'torch.Tensor' | Image.Image, scaling_factor: float | None = None, shift_factor: float | None = None)

Fuente

Parámetros:

endpoint (str) : Punto de acceso para decodificación remota.

image (torch.Tensor o PIL.Image.Image) : Imagen que se codificará.

scaling_factor (float, opcional) : Se aplica la escalada cuando se pasa, por ejemplo, latents * self.vae.config.scaling_factor. - SD v1: 0.18215 - SD XL: 0.13025 - Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada ya aplicada.

shift_factor (float, opcional) : Se aplica el desplazamiento cuando se pasa, p. ej. latents - self.vae.config.shift_factor. - Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.

Devuelve:

output (torch.Tensor).

Hugging Face Hybrid Inference, que permite ejecutar la codificación VAE de forma remota.

Xet Storage Details

Size:
5.95 kB
·
Xet hash:
3a252f09895f58c71dbd91c8bbe8bc41c0c172c21089646ed31d7672fa726e8a

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.