diffusers/main/ko/api/models/ovisimage_transformer2d.md

OvisImageTransformer2DModel

다음 코드 스니펫으로 모델을 로드할 수 있습니다.

from diffusers import OvisImageTransformer2DModel

transformer = OvisImageTransformer2DModel.from_pretrained("AIDC-AI/Ovis-Image-7B", subfolder="transformer", dtype=torch.bfloat16)

OvisImageTransformer2DModel[[diffusers.OvisImageTransformer2DModel]]

diffusers.OvisImageTransformer2DModel[[diffusers.OvisImageTransformer2DModel]]

diffusers.OvisImageTransformer2DModel(patch_size: int = 1, in_channels: int = 64, out_channels: int | None = 64, num_layers: int = 6, num_single_layers: int = 27, attention_head_dim: int = 128, num_attention_heads: int = 24, joint_attention_dim: int = 2048, axes_dims_rope: tuple = (16, 56, 56))

소스

매개변수:

patch_size (int, 기본값 1) : 입력 데이터를 작은 패치로 변환하기 위한 패치 크기.

in_channels (int, 기본값 64) : 입력의 채널 수.

out_channels (int, 선택 사항, 기본값 None) : 출력의 채널 수입니다. 지정하지 않으면 기본값은 in_channels입니다.

num_layers (int, 기본값 6) : 사용할 dual stream DiT 블록의 레이어 수입니다.

num_single_layers (int, 기본값 27) : 사용할 단일 스트림 DiT 블록의 레이어 수입니다.

attention_head_dim (int, 기본값 128) : 각 attention head에 사용할 차원의 수입니다.

num_attention_heads (int, 기본값 24) : 사용할 attention head의 수입니다.

joint_attention_dim (int, 기본값 2048) : 결합된 어텐션에 사용할 차원의 수(encoder_hidden_states의 임베딩/채널 차원).

axes_dims_rope (tuple[int], 기본값 (16, 56, 56)) : 회전 위치 임베딩에 사용할 차원입니다.

Ovis-Image에 소개된 Transformer 모델.

Reference: https://github.com/AIDC-AI/Ovis-Image

forward[[diffusers.OvisImageTransformer2DModel.forward]]

forward(hidden_states: Tensor, encoder_hidden_states: Tensor = None, timestep: LongTensor = None, img_ids: Tensor = None, txt_ids: Tensor = None, joint_attention_kwargs: dict[str, typing.Any] | None = None, return_dict: bool = True)

소스

매개변수:

hidden_states (torch.Tensor, shape (batch_size, image_sequence_length, in_channels)) : 입력 hidden_states.

encoder_hidden_states (torch.Tensor, shape (batch_size, text_sequence_length, joint_attention_dim)) : 사용할 조건 임베딩(프롬프트와 같은 입력 조건에서 계산된 임베딩).

timestep (torch.LongTensor) : 노이즈 제거 단계를 나타내는 데 사용됩니다.

img_ids : (torch.Tensor): 이미지 토큰의 위치 ID입니다.

txt_ids (torch.Tensor) : 텍스트 토큰의 위치 ID입니다.

joint_attention_kwargs (dict, 선택 사항) : 지정된 경우 diffusers.models.attention_processor의 self.processor 아래에서 정의된 AttentionProcessor로 전달되는 kwargs 사전입니다.

return_dict (bool, 선택 사항, 기본값 True) : 일반 튜플 대신 ~models.transformer_2d.Transformer2DModelOutput을 반환할지 여부.

반환값:

return_dict가 True이면 ~models.transformer_2d.Transformer2DModelOutput이 반환되고, 그렇지 않으면 첫 번째 요소가 샘플 텐서인 tuple이 반환됩니다.

OvisImageTransformer2DModel의 forward 메서드입니다.