Buckets:

hf-doc-build/doc / diffusers /main /tr /api /models /autoencoderkl_p_h3_image.md
mishig's picture
|
download
raw
7.66 kB

AutoencoderKLPH3Image

Pruna AI'nin P-H3-Image modelinin görüntü VAE'si. MiniMax-H3'ün video VAE'sindeki kodlayıcıyı ve gizli uzayı kullanır; tek bir gizli çerçeveyi görüntüye dönüştüren bir ViT çözücüye sahiptir.

AutoencoderKLMiniMaxH3 kurallarını takip eder:

  • Görüntüler, 16x uzamsal sıkıştırma ile tek kareli videolar olarak (batch_size, channels, 1, height, width) şeklinde geçirilir.
  • Latentler, scaling_factor yerine latents_mean / latents_std ile kanal başına normalize edilir.
  • Pikseller, [0, 1] aralığında ImageNet-normalize edilmiş RGB değerleridir: encode, (pixel - imagenet_mean) / imagenet_std biçiminde girdi bekler ve decode bu uzayı döndürür.
  • Mekansal karolar varsayılan olarak açıktır; 256 piksellik karolar ve en az 64 piksellik örtüşme kullanılır.
import torch
from diffusers import AutoencoderKLPH3Image

vae = AutoencoderKLPH3Image.from_pretrained("PrunaAI/P-H3-Image", subfolder="vae", dtype=torch.bfloat16).to(
    "cuda"
)  # or "mps", "xpu", "cpu"

Model hangi dtype ile yüklenirse yüklensin, kodlayıcı ve çözücünün çıktı projeksiyonu float32 olarak kalır.

AutoencoderKLPH3Image[[diffusers.AutoencoderKLPH3Image]]

diffusers.AutoencoderKLPH3Image[[diffusers.AutoencoderKLPH3Image]]

diffusers.AutoencoderKLPH3Image(in_channels: int = 3, out_channels: int = 3, latent_channels: int = 24, block_out_channels: tuple = (128, 256, 256, 512, 512, 1024), layers_per_block: int = 2, spatial_downsample_factors: tuple = (2, 2, 2, 2, 1, 1), temporal_downsample_factors: tuple = (1, 2, 2, 1, 1, 1), norm_num_groups: int = 32, norm_eps: float = 1e-06, spatial_padding_mode: str = 'reflect', decoder_num_layers: int = 36, decoder_num_attention_heads: int = 32, decoder_attention_head_dim: int = 64, decoder_num_register_tokens: int = 4, decoder_ffn_mult: int = 4, decoder_rope_theta: float = 100.0, decoder_rope_dim_ratio: float = 0.75, decoder_norm_eps: float = 1e-05, latents_mean: tuple = (0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0), latents_std: tuple = (1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0))

Kaynak

P-H3-Image görsel VAE'si: MiniMax-H3'ün VAE kodlayıcısı ve gizli uzayı, tek bir gizli çerçeveyi çözen bir PH3ImageViTDecoder ile.

Görseller, tek kareli videolar olarak iletilir: (batch_size, channels, 1, height, width). AutoencoderKLMiniMaxH3'te olduğu gibi, pikseller [0, 1] aralığında ImageNet-normalize edilmiş RGB değerleridir (ortalama (0.485, 0.456, 0.406), standart sapma (0.229, 0.224, 0.225)) ve uzamsal karolar (spatial tiling) varsayılan olarak açıktır.

encode[[diffusers.AutoencoderKLPH3Image.encode]]

encode(x: Tensor, return_dict: bool = True)

Kaynak

Parametreler:

x (torch.Tensor) : Tek kareli videolar olarak girdi görüntü partisi, şekli (batch_size, in_channels, 1, height, width).

return_dict (bool, isteğe bağlı, varsayılan True) : Düz bir tuple yerine AutoencoderKLOutput döndürülüp döndürülmediğini belirtir.

Dönüş:

Kodlanmış görüntülerin gizli dağılımı. Not: Gizli değişkenler daha sonra latents_mean / latents_std ile normalize edilir.

Bir görüntü grubunu latentlere kodlayın.

decode[[diffusers.AutoencoderKLPH3Image.decode]]

decode(z: Tensor, return_dict: bool = True)

Kaynak

Parametreler:

z (torch.Tensor) : Girdi partisi latensleri, şekil (batch_size, latent_channels, 1, height, width).

return_dict (bool, isteğe bağlı, varsayılan True) : Düz bir tuple yerine DecoderOutput döndürülüp döndürülmemesi.

Dönüş: DecoderOutput veya tuple

Çözülen görüntülerin şekli (batch_size, out_channels, 1, height, width).

Bir latent görüntü grubunu çözümlenir.

enable_tiling[[diffusers.AutoencoderKLPH3Image.enable_tiling]]

enable_tiling(tile_sample_min_height: int | None = None, tile_sample_min_width: int | None = None, tile_sample_min_overlap_height: int | None = None, tile_sample_min_overlap_width: int | None = None)

Kaynak

Parametreler:

tile_sample_min_height (int, isteğe bağlı) : Piksel uzayındaki karoların yüksekliği. Bu değere göre daha yüksek olan kareler, yükseklik boyutu boyunca bölünür.

tile_sample_min_width (int, isteğe bağlı) : Piksel uzayındaki karoların genişliği. Bu değerden daha geniş olan kareler, genişlik boyutu boyunca bölünür.

tile_sample_min_overlap_height (int, isteğe bağlı) : İki ardışık dikey karolar arasındaki minimum örtüşme, piksel cinsinden.

tile_sample_min_overlap_width (int, isteğe bağlı) : İki ardışık yatay karolar arasındaki minimum örtüşme, piksel cinsinden.

Döşemeli VAE kodlama/çözme işlemini etkinleştirir. Bu seçenek etkinleştirildiğinde, VAE kareleri döşemelere ayırır, her döşemeyi ayrı ayrı kodlar veya çözer ve örtüşen kısımları doğrusal olarak birleştirir. Bu, bellek gereksinimini azaltır ve daha büyük karelerin işlenmesine olanak tanır.

forward[[diffusers.AutoencoderKLPH3Image.forward]]

forward(sample: Tensor, sample_posterior: bool = False, generator: typing.Optional[torch.Generator] = None, return_dict: bool = True)

Kaynak

Parametreler:

sample (torch.Tensor) : Tek kareli videolar olarak girdi görüntü partisi, şekli (batch_size, in_channels, 1, height, width).

sample_posterior (bool, isteğe bağlı, varsayılan False) : Posterior dağılımın modunu almak yerine örneklemesinin alınması.

generator (torch.Generator, isteğe bağlı) : sample_posterior=True olduğunda kullanılan Generator.

return_dict (bool, isteğe bağlı, varsayılan True) : Düz bir tuple yerine DecoderOutput döndürülüp döndürülmemesi.

Dönüş: DecoderOutput veya tuple

Geri dönen görüntüler, şekli (batch_size, out_channels, 1, height, width).

Bir görüntü grubunu kodlayıp ardından çözümlendirin.

Xet Storage Details

Size:
7.66 kB
·
Xet hash:
8230df6b3f11764acfdce1b4865bbcaf6da54e0294de4b66ac0009d619bd8a53

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.