Diffusers documentation
PRX
PRX
PRX는 텍스트 토큰이 트랜스포머 블록을 통해 업데이트되지 않는 단순화된 MMDIT 아키텍처를 사용하여 텍스트에서 고품질 이미지를 생성합니다. 효율적인 샘플링을 위해 이산 스케줄링을 적용한 flow matching을 사용하며, 다국어 텍스트 인코딩을 위해 Google의 T5Gemma-2B-2B-UL2 모델을 사용합니다. 약 1.3B 파라미터의 트랜스포머는 품질 저하 없이 빠른 추론을 제공합니다. 균형 잡힌 품질과 속도를 위해 Flux VAE(8x 압축, 16 latent channels)를 선택하거나, latent 압축과 더 빠른 처리를 위해 DC-AE(32x 압축, 32 latent channels)를 선택할 수 있습니다.
사용 가능한 모델
PRX은 서로 다른 VAE 구성을 가진 여러 변형을 제공하며, 각각은 특정 해상도에 최적화되어 있습니다. Base 모델은 상세한 프롬프트에서 뛰어난 성능을 발휘하여 복잡한 구성과 미묘한 디테일을 포착합니다. Alchemist dataset으로 학습된 Fine-tuned 모델은 특히 단순한 프롬프트에서 미적 품질을 향상시킵니다.
| 모델 | 해결 | 파인튜닝 | 증류 | 설명 | 권장 프롬프트 | 권장 매개변수 | 권장 dtype |
|---|---|---|---|---|---|---|---|
Photoroom/prx-256-t2i | 256 | 아니요 | 아니요 | 256에서 사전 학습된 Flux VAE 기반 모델 | 자연어 기반의 상세한 프롬프트와 함께 가장 잘 작동합니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-256-t2i-sft | 512 | 예 | 아니요 | Flux VAE를 사용하여 Alchemist dataset 데이터셋으로 파인튜닝 | 상세하지 않은 프롬프트도 처리할 수 있습니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-512-t2i | 512 | 아니요 | 아니요 | Flux VAE로 512에서 사전 학습된 기본 모델 | 자연어 기반의 상세한 프롬프트와 함께 가장 잘 작동합니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-512-t2i-sft | 512 | 예 | 아니요 | Flux VAE를 사용하여 Alchemist dataset 데이터셋으로 파인튜닝 | 자연어로 작성된 덜 상세한 프롬프트를 처리할 수 있습니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-512-t2i-sft-distilled | 512 | 예 | 예 | Photoroom/prx-512-t2i-sft에서 8단계로 증류된 모델 | 자연어로 작성된 덜 상세한 프롬프트를 처리할 수 있습니다 | 8단계, cfg=1.0 | torch.bfloat16 |
Photoroom/prx-512-t2i-dc-ae | 512 | 아니요 | 아니요 | 512에서 Deep Compression Autoencoder (DC-AE)로 사전 학습된 베이스 모델 | 자연어 기반의 상세한 프롬프트와 함께 가장 잘 작동합니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-512-t2i-dc-ae-sft | 512 | 예 | 아니요 | Alchemist dataset 데이터셋에서 Deep Compression Autoencoder (DC-AE)를 사용하여 파인튜닝되었습니다 | 자연어로 작성된 덜 상세한 프롬프트를 처리할 수 있습니다 | 28 단계, cfg=5.0 | torch.bfloat16 |
Photoroom/prx-512-t2i-dc-ae-sft-distilled | 512 | 예 | 예 | Photoroom/prx-512-t2i-dc-ae-sft-distilled의 8단계 디스틸드 모델 | 자연어로 작성된 덜 상세한 프롬프트를 처리할 수 있습니다 | 8단계, cfg=1.0 | torch.bfloat16 |
자세한 내용은 이 컬렉션을 참조하세요.
파이프라인 로드
from_pretrained()로 파이프라인을 로드합니다.
from diffusers.pipelines.prx import PRXPipeline
# Load pipeline - VAE and text encoder will be loaded from HuggingFace
pipe = PRXPipeline.from_pretrained("Photoroom/prx-512-t2i-sft", dtype=torch.bfloat16)
pipe.to("cuda") # or "mps", "xpu", "cpu"
prompt = "A front-facing portrait of a lion the golden savanna at sunset."
image = pipe(prompt, num_inference_steps=28, guidance_scale=5.0).images[0]
image.save("prx_output.png")수동 구성 요소 로드
개별적으로 로드하여 파이프라인을 사용자 지정할 수 있습니다. 예를 들어, 양자화 모델을 사용하는 경우입니다.
import torch
from diffusers.pipelines.prx import PRXPipeline
from diffusers.models import AutoencoderKL, AutoencoderDC
from diffusers.models.transformers.transformer_prx import PRXTransformer2DModel
from diffusers.schedulers import FlowMatchEulerDiscreteScheduler
from transformers import T5GemmaModel, GemmaTokenizerFast
from diffusers import BitsAndBytesConfig as DiffusersBitsAndBytesConfig
from transformers import BitsAndBytesConfig as BitsAndBytesConfig
quant_config = DiffusersBitsAndBytesConfig(load_in_8bit=True)
# Load transformer
transformer = PRXTransformer2DModel.from_pretrained(
"checkpoints/prx-512-t2i-sft",
subfolder="transformer",
quantization_config=quant_config,
dtype=torch.bfloat16,
)
# Load scheduler
scheduler = FlowMatchEulerDiscreteScheduler.from_pretrained(
"checkpoints/prx-512-t2i-sft", subfolder="scheduler"
)
# Load T5Gemma text encoder
t5gemma_model = T5GemmaModel.from_pretrained("google/t5gemma-2b-2b-ul2",
quantization_config=quant_config,
dtype=torch.bfloat16)
text_encoder = t5gemma_model.encoder.to(dtype=torch.bfloat16)
tokenizer = GemmaTokenizerFast.from_pretrained("google/t5gemma-2b-2b-ul2")
tokenizer.model_max_length = 256
# Load VAE - choose either Flux VAE or DC-AE
# Flux VAE
vae = AutoencoderKL.from_pretrained("black-forest-labs/FLUX.1-dev",
subfolder="vae",
quantization_config=quant_config,
dtype=torch.bfloat16)
pipe = PRXPipeline(
transformer=transformer,
scheduler=scheduler,
text_encoder=text_encoder,
tokenizer=tokenizer,
vae=vae
)
pipe.to("cuda") # or "mps", "xpu", "cpu"메모리 최적화
메모리가 제한된 환경의 경우:
import torch
from diffusers.pipelines.prx import PRXPipeline
pipe = PRXPipeline.from_pretrained("Photoroom/prx-512-t2i-sft", dtype=torch.bfloat16)
pipe.enable_model_cpu_offload() # Offload components to CPU when not in use
# Or use sequential CPU offload for even lower memory
pipe.enable_sequential_cpu_offload()PRXPipeline
클래스 diffusers.PRXPipeline
< source >( transformer: PRXTransformer2DModelscheduler: FlowMatchEulerDiscreteSchedulertext_encoder: T5GemmaEncodertokenizer: transformers.models.t5.tokenization_t5.T5Tokenizer | transformers.models.gemma.tokenization_gemma.GemmaTokenizer | transformers.models.auto.tokenization_auto.AutoTokenizervae: diffusers.models.autoencoders.autoencoder_kl.AutoencoderKL | diffusers.models.autoencoders.autoencoder_dc.AutoencoderDC | None = Nonedefault_sample_size: int | None = 512 )
매개변수
- transformer (
PRXTransformer2DModel) — 인코딩된 이미지 latents의 노이즈를 제거하기 위한 PRX transformer 모델입니다. - scheduler (FlowMatchEulerDiscreteScheduler) —
transformer와 함께 사용하여 인코딩된 이미지 latents의 노이즈를 제거하는 데 사용되는 스케줄러. - text_encoder (
T5GemmaEncoder) — 프롬프트를 인코딩하는 텍스트 인코더 모델. - tokenizer ([
T5TokenizerFast또는GemmaTokenizerFast]) — 텍스트 인코더에 사용되는 토크나이저입니다. - vae (AutoencoderKL 또는 AutoencoderDC) — 이미지를 잠재 표현으로 인코딩하고 디코딩하는 Variational Auto-Encoder (VAE) 모델입니다. AutoencoderKL (8x 압축)과 AutoencoderDC (32x 압축)을 모두 지원합니다.
PRX Transformer를 사용한 텍스트-이미지 생성을 위한 Pipeline
이 모델은 DiffusionPipeline에서 상속됩니다. 라이브러리가 모든 파이프라인에 대해 구현하는 일반적 메서드(다운로드 또는 저장, 특정 디바이스에서 실행 등)에 대해서는 상위 클래스 문서를 확인하세요.
__call__
< source >( prompt: str | list[str] = Nonenegative_prompt: str = ''height: int | None = Nonewidth: int | None = Nonenum_inference_steps: int = 28timesteps: list = Noneguidance_scale: float = 4.0num_images_per_prompt: int | None = 1generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = Nonelatents: typing.Optional[torch.Tensor] = Noneprompt_embeds: typing.Optional[torch.FloatTensor] = Nonenegative_prompt_embeds: typing.Optional[torch.FloatTensor] = Noneprompt_attention_mask: typing.Optional[torch.BoolTensor] = Nonenegative_prompt_attention_mask: typing.Optional[torch.BoolTensor] = Noneoutput_type: str | None = 'pil'return_dict: bool = Trueuse_resolution_binning: bool = Truecallback_on_step_end: typing.Optional[typing.Callable[[int, int], NoneType]] = Nonecallback_on_step_end_tensor_inputs: list = ['latents']tokenizer_max_length: int | None = Noneskip_text_cleaning: bool = False ) → [~pipelines.prx.PRXPipelineOutput] or *tuple`
매개변수
- prompt (str 또는 list[str], 선택 사항) — 이미지 생성을 안내할 프롬프트입니다. 정의되지 않은 경우 prompt_embeds를 대신 전달해야 합니다.
- negative_prompt (str, 선택 사항, 기본값 "") — 이미지 생성을 안내하지 않을 프롬프트입니다. 가이던스를 사용하지 않는 경우 무시됩니다(즉, guidance_scale이 1보다 작은 경우 무시됩니다).
- height (int, 선택 사항, 기본값: self.transformer.config.sample_size * self.vae_scale_factor) — 생성된 이미지의 픽셀 단위 높이입니다.
- width (int, 선택 사항, 기본값: self.transformer.config.sample_size * self.vae_scale_factor) — 생성된 이미지의 픽셀 단위 너비입니다.
- num_inference_steps (int, optional, 기본값 28) — 디노이징 단계의 수입니다. 디노이징 단계가 많을수록 일반적으로 더 높은 품질의 이미지를 생성하지만, 추론 속도가 느려집니다.
- timesteps (list[int], optional) — Custom timesteps to use for the denoising process with schedulers which support a timesteps argument in their set_timesteps method. If not defined, the default behavior when num_inference_steps is passed will be used. Must be in descending order.
- guidance_scale (float, 선택 사항, 기본값 4.0) — Classifier-Free Diffusion Guidance에서 정의한 가이던스 스케일입니다. guidance_scale은 Imagen Paper의 방정식 2의 w로 정의됩니다. guidance_scale > 1로 설정하면 가이던스 스케일이 활성화됩니다. 가이던스 스케일이 높을수록 prompt 텍스트와 밀접하게 연결된 이미지를 생성하도록 유도하지만, 일반적으로 이미지 품질이 낮아지는 대가를 치릅니다.
- num_images_per_prompt (int, 선택 사항, 기본값 1) — 프롬프트당 생성할 이미지의 수입니다.
- generator (torch.Generator 또는 list[torch.Generator], 선택 사항) — 생성을 결정적으로 만들기 위한 torch generator 하나 또는 목록
- latents (torch.Tensor, optional) — 이미지 생성의 입력으로 사용할 가우시안 분포에서 샘플링된 사전 생성된 노이즈 latents입니다. 동일한 생성을 다른 프롬프트로 조정하는 데 사용할 수 있습니다. 제공되지 않으면, 제공된 랜덤 generator를 사용하여 샘플링하여 latents 텐서가 생성됩니다.
- prompt_embeds (torch.FloatTensor, 선택) — 미리 생성된 텍스트 임베딩입니다. 텍스트 입력을 쉽게 조정하는 데 사용할 수 있으며, 예를 들어 프롬프트 가중치 설정에 활용할 수 있습니다. 제공되지 않으면 prompt 입력 인자로부터 텍스트 임베딩이 생성됩니다.
- negative_prompt_embeds (torch.FloatTensor, optional) — 미리 생성된 부정 텍스트 임베딩입니다. e.g. 프롬프트 가중치 조정과 같이 텍스트 입력을 쉽게 조정하는 데 사용할 수 있습니다. 값이 제공되지 않고 guidance_scale > 1인 경우, 빈 문자열에서 부정 임베딩이 생성됩니다.
- prompt_attention_mask (torch.BoolTensor, optional) — prompt_embeds에 사용할 사전 생성된 attention mask입니다. 제공되지 않으면 prompt 입력 인자로부터 attention mask가 생성됩니다.
- negative_prompt_attention_mask (torch.BoolTensor, 선택 사항) — negative_prompt_embeds에 사용할 사전 생성된 attention mask입니다. 제공되지 않고 guidance_scale > 1인 경우, 빈 문자열로부터 attention mask가 생성됩니다.
- output_type (str, 선택 사항, 기본값 “pil”) — 이미지 생성의 출력 형식입니다. PIL: PIL.Image.Image 또는 np.array 중 하나를 선택합니다.
- tokenizer_max_length (int, 선택 사항) —
프롬프트를 토큰화할 때 사용할 최대 토큰 수를 재정의합니다. 설정되지 않은 경우 기본값은 토크나이저 자체의
model_max_length입니다. - skip_text_cleaning (bool, 선택 사항, 기본값 False) — True인 경우, 전체 DeepFloyd 클리닝 파이프라인 대신 가벼운 프롬프트 클리닝(인코딩 수정 + HTML 언에스케이프)만 사용합니다.
- return_dict (bool, 선택 사항, 기본값 True) — 단순 튜플 대신 [~pipelines.prx.PRXPipelineOutput]를 반환할지 여부.
- use_resolution_binning (bool, 선택 사항, 기본값 True) — True로 설정하면, 요청된 높이와 너비가 미리 정의된 종횡비 bins를 사용하여 가장 가까운 해상도로 먼저 매핑됩니다. 생성된 latents가 이미지로 디코딩된 후, 요청된 해상도로 다시 리사이즈됩니다. 최적의 해상도로 정사각형이 아닌 이미지를 생성하는 데 유용합니다.
- callback_on_step_end (Callable, 선택 사항) — 추론 중 각 노이즈 제거 단계의 끝에서 호출되는 함수입니다. 이 함수는 다음 인수를 받아 호출됩니다: callback_on_step_end(self, step, timestep, callback_kwargs). callback_kwargs에는 callback_on_step_end_tensor_inputs로 지정된 모든 텐서 목록이 포함됩니다.
- callback_on_step_end_tensor_inputs (list, optional) — callback_on_step_end 함수의 텐서 입력 목록입니다. 목록에 지정된 텐서는 callback_kwargs 인수로 전달됩니다. ._callback_tensor_inputs 속성에 나열된 텐서만 포함할 수 있습니다.
반환값
[~pipelines.prx.PRXPipelineOutput] 또는 *tuple`
[~pipelines.prx.PRXPipelineOutput] return_dict가 True인 경우, 그렇지 않으면 *tuple입니다. tuple을 반환할 때 첫 번째 요소는 생성된 이미지의 목록입니다.
생성을 위해 파이프라인을 호출할 때 호출되는 함수.
예:
>>> import torch
>>> from diffusers import PRXPipeline
>>> # Load pipeline with from_pretrained
>>> pipe = PRXPipeline.from_pretrained("Photoroom/prx-512-t2i-sft")
>>> pipe.to("cuda")
>>> prompt = "A digital painting of a rusty, vintage tram on a sandy beach"
>>> image = pipe(prompt, num_inference_steps=28, guidance_scale=5.0).images[0]
>>> image.save("prx_output.png")check_inputs
< source >( prompt: str | list[str]height: intwidth: intguidance_scale: floatcallback_on_step_end_tensor_inputs: list[str] | None = Noneprompt_embeds: typing.Optional[torch.FloatTensor] = Nonenegative_prompt_embeds: typing.Optional[torch.FloatTensor] = None )
모든 입력이 올바른 형식인지 확인합니다.
encode_prompt
< source >( prompt: str | list[str]device: typing.Optional[torch.device] = Nonedo_classifier_free_guidance: bool = Truenegative_prompt: str = ''num_images_per_prompt: int = 1prompt_embeds: typing.Optional[torch.FloatTensor] = Nonenegative_prompt_embeds: typing.Optional[torch.FloatTensor] = Noneprompt_attention_mask: typing.Optional[torch.BoolTensor] = Nonenegative_prompt_attention_mask: typing.Optional[torch.BoolTensor] = Nonetokenizer_max_length: int | None = Noneskip_text_cleaning: bool = False )
표준 텍스트 인코더와 토크나이저를 사용하여 텍스트 프롬프트를 인코딩하거나, 사전 계산된 임베딩을 사용합니다.
VAE와 설정을 기반으로 기본 해상도를 결정합니다.
prepare_latents
< source >( batch_size: intnum_channels_latents: intheight: intwidth: intdtype: dtypedevice: devicegenerator: typing.Optional[torch.Generator] = Nonelatents: typing.Optional[torch.Tensor] = None )
확산 프로세스를 위한 초기 latents를 준비합니다.
PRXPipelineOutput
클래스 diffusers.pipelines.prx.PRXPipelineOutput
< source >( images: list[PIL.Image.Image] | numpy.ndarray )
PRX 파이프라인의 출력 클래스입니다.