Diffusers documentation
LTXVideoTransformer3DModel
LTXVideoTransformer3DModel
LTX에서 3D 데이터를 위한 Diffusion Transformer 모델이 Lightricks에 의해 소개되었습니다.
다음 코드 스니펫으로 모델을 로드할 수 있습니다.
from diffusers import LTXVideoTransformer3DModel
transformer = LTXVideoTransformer3DModel.from_pretrained("Lightricks/LTX-Video", subfolder="transformer", dtype=torch.bfloat16).to("cuda") # or "mps", "xpu", "cpu"LTXVideoTransformer3DModel
클래스 diffusers.LTXVideoTransformer3DModel
< source >( in_channels: int = 128out_channels: int = 128patch_size: int = 1patch_size_t: int = 1num_attention_heads: int = 32attention_head_dim: int = 64cross_attention_dim: int = 2048num_layers: int = 28activation_fn: str = 'gelu-approximate'qk_norm: str = 'rms_norm_across_heads'norm_elementwise_affine: bool = Falsenorm_eps: float = 1e-06caption_channels: int = 4096attention_bias: bool = Trueattention_out_bias: bool = True )
매개변수
- in_channels (
int, 기본값128) — 입력의 채널 수입니다. - out_channels (
int, 기본값128) — 출력의 채널 수입니다. - patch_size (
int, 기본값1) — 패치 임베딩 레이어에서 사용할 공간 패치의 크기입니다. - patch_size_t (
int, 기본값1) — 패치 임베딩 레이어에서 사용할 시간적 패치의 크기입니다. - num_attention_heads (
int, 기본값32) — 멀티헤드 어텐션에 사용할 헤드의 수입니다. - attention_head_dim (
int, 기본값64) — 각 헤드당 채널 수입니다. - cross_attention_dim (
int, 기본값2048) — 크로스 어텐션 헤드의 채널 수입니다. - num_layers (
int, 기본값28) — 사용할 Transformer 블록의 레이어 수입니다. - activation_fn (
str, 기본값"gelu-approximate") — 피드포워드에서 사용할 활성화 함수입니다. - qk_norm (
str, 기본값"rms_norm_across_heads") — 사용할 정규화 레이어입니다.
LTX에서 사용되는 비디오 유사 데이터용 Transformer 모델입니다.
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensortimestep: LongTensorencoder_attention_mask: Tensornum_frames: int | None = Noneheight: int | None = Nonewidth: int | None = Nonerope_interpolation_scale: typing.Union[tuple[float, float, float], torch.Tensor, NoneType] = Nonevideo_coords: typing.Optional[torch.Tensor] = Noneattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True ) → torch.Tensor
매개변수
- hidden_states (
torch.Tensor, shape(batch_size, sequence_length, in_channels)) — 입력hidden_states. - encoder_hidden_states (
torch.Tensor, shape(batch_size, sequence_len, embed_dims)) — 사용할 조건 임베딩(프롬프트와 같은 입력 조건에서 계산된 임베딩). - timestep (
torch.LongTensor) — 디노이징 단계를 나타내는 데 사용됩니다. - encoder_attention_mask (
torch.Tensor) — Attention 과정에서encoder_hidden_states에 적용되는 마스크입니다. - num_frames (
int, 선택 사항) — 회전 위치 임베딩을 계산하는 데 사용되는 비디오의 프레임 수. - height (
int, 선택 사항) — 회전 위치 임베딩을 계산하는 데 사용되는 잠재 변수의 높이. - width (
int, 선택 사항) — 회전 위치 임베딩을 계산하는 데 사용되는 잠재 변수의 너비. - rope_interpolation_scale (
tupleoffloatortorch.Tensor, 선택 사항) — 회전 위치 임베딩에 사용되는 보간 스케일입니다. - video_coords (
torch.Tensor, 선택 사항) — 회전 위치 임베딩에 사용되는 사전 계산된 비디오 좌표입니다. - attention_kwargs (
dict, 선택 사항) — 지정된 경우 diffusers.models.attention_processor의self.processor에서 정의된AttentionProcessor로 전달되는 kwargs 사전입니다. - return_dict (
bool, 선택 사항, 기본값True) — 단순 tuple 대신~models.transformer_2d.Transformer2DModelOutput를 반환할지 여부.
반환값
torch.Tensor
(batch_size, sequence_length, out_channels) 모양의 노이즈 제거 출력 텐서.
LTXVideoTransformer3DModel의 forward 메서드입니다.
Transformer2DModelOutput
클래스 diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
매개변수
- sample (
torch.Tensor, shape(batch_size, num_channels, height, width)또는 Transformer2DModel이 discrete인 경우(batch size, num_vector_embeds - 1, num_latent_pixels)) —encoder_hidden_states입력에 조건부인 hidden states 출력입니다. discrete인 경우, 노이즈가 제거된 latent 픽셀에 대한 확률 분포를 반환합니다.
Transformer2DModel의 출력입니다.