Buckets:

hf-doc-build/doc / diffusers /main /tr /api /models /unet-motion.md
mishig's picture
|
download
raw
11.8 kB
# UNetMotionModel
[UNet](https://huggingface.co/papers/1505.04597) modeli, Ronneberger ve arkadaşları tarafından biyomedikal görüntü segmentasyonu için ilk olarak tanıtılmıştır ancak 🤗 Diffusers'ta da yaygın olarak kullanılır çünkü girdiyle aynı boyutta görüntüler üretir. Gerçek difüzyon sürecini kolaylaştırdığı için bir difüzyon sisteminin en önemli bileşenlerinden biridir. 🤗 Diffusers'ta, boyut sayısına ve koşullu bir model olup olmadığına bağlı olarak UNet modelinin çeşitli varyantları vardır. Bu bir 2D UNet modelidir.
Makalenin özeti şudur:
*Derin ağların başarılı bir şekilde eğitilmesinin binlerce etiketli eğitim örneği gerektirdiği konusunda geniş bir uzlaşı vardır. Bu makalede, mevcut etiketli örneklerin daha verimli kullanılmasını sağlayan, veri artırımının güçlü kullanımına dayanan bir ağ ve eğitim stratejisi sunuyoruz. Mimari, bağlamı yakalamak için daralan bir yol ve hassas konumlandırmayı mümkün kılan simetrik bir genişleyen yoldan oluşmaktadır. Böyle bir ağın çok az sayıda görüntüden uçtan uca eğitilebildiğini ve sinirsel yapıların elektron mikroskobik yığınlarındaki segmentasyonu için ISBI yarışmasında önceki en iyi yöntemi (kayan pencere konvolüsyonel ağ) geride bıraktığını gösteriyoruz. Aynı ağ, iletilen ışık mikroskobu görüntüleri (faz kontrastı ve DIC) üzerinde eğitilerek, bu kategorilerde ISBI hücre takibi yarışması 2015'i büyük bir farkla kazandık. Üstelik ağ hızlıdır. 512x512 boyutundaki bir görüntünün segmentasyonu, güncel bir GPU'da bir saniyeden az sürmektedir. Tam uygulama (Caffe tabanlı) ve eğitilmiş ağlar http://lmb.informatik.uni-freiburg.de/people/ronneber/u-net adresinde mevcuttur.*
## UNetMotionModel[[diffusers.UNetMotionModel]]
#### diffusers.UNetMotionModel[[diffusers.UNetMotionModel]]
```python
diffusers.UNetMotionModel(sample_size: int | None = None, in_channels: int = 4, out_channels: int = 4, down_block_types: tuple = ('CrossAttnDownBlockMotion', 'CrossAttnDownBlockMotion', 'CrossAttnDownBlockMotion', 'DownBlockMotion'), up_block_types: tuple = ('UpBlockMotion', 'CrossAttnUpBlockMotion', 'CrossAttnUpBlockMotion', 'CrossAttnUpBlockMotion'), block_out_channels: tuple = (320, 640, 1280, 1280), layers_per_block: int | tuple[int] = 2, downsample_padding: int = 1, mid_block_scale_factor: float = 1, act_fn: str = 'silu', norm_num_groups: int = 32, norm_eps: float = 1e-05, cross_attention_dim: int = 1280, transformer_layers_per_block: int | tuple[int] | tuple[tuple] = 1, reverse_transformer_layers_per_block: int | tuple[int] | tuple[tuple] | None = None, temporal_transformer_layers_per_block: int | tuple[int] | tuple[tuple] = 1, reverse_temporal_transformer_layers_per_block: int | tuple[int] | tuple[tuple] | None = None, transformer_layers_per_mid_block: int | tuple[int] | None = None, temporal_transformer_layers_per_mid_block: int | tuple[int] | None = 1, use_linear_projection: bool = False, num_attention_heads: int | tuple[int, ...] = 8, motion_max_seq_length: int = 32, motion_num_attention_heads: int | tuple[int, ...] = 8, reverse_motion_num_attention_heads: int | tuple[int, ...] | tuple[tuple[int, ...], ...] | None = None, use_motion_mid_block: bool = True, mid_block_layers: int = 1, encoder_hid_dim: int | None = None, encoder_hid_dim_type: str | None = None, addition_embed_type: str | None = None, addition_time_embed_dim: int | None = None, projection_class_embeddings_input_dim: int | None = None, time_cond_proj_dim: int | None = None)
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1201)
Gürültülü bir örnek, koşullu durum ve bir zaman adımı alır ve örnek biçimli bir çıktı döndüren, değiştirilmiş koşullu 2D UNet modeli.
Bu model [ModelMixin](/docs/diffusers/main/tr/api/models/overview#diffusers.ModelMixin) sınıfından devralır. Tüm modeller için uygulanan genel yöntemlerini (indirme veya kaydetme gibi) görmek için üst sınıfın belgelendirmesine bakın.
#### disable_freeu[[diffusers.UNetMotionModel.disable_freeu]]
```python
disable_freeu()
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1842)
FreeU mekanizmasını devre dışı bırakır.
#### enable_forward_chunking[[diffusers.UNetMotionModel.enable_forward_chunking]]
```python
enable_forward_chunking(chunk_size: int | None = None, dim: int = 0)
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1760)
**Parametreler:**
chunk_size (`int`, *opsiyonel*) : Feed-forward katmanlarının parça boyutu. Belirtilmezse, feed-forward katmanı `dim` boyutlu her tensör üzerinde ayrı ayrı çalıştırılır.
dim (`int`, *isteğe bağlı*, varsayılan `0`) : Feed-forward hesaplamanın parçalanacağı boyut. dim=0 (batch) veya dim=1 (sequence length) arasında seçim yapın.
Dikkat işleyicisini [feed forward chunking](https://huggingface.co/blog/reformer#2-chunked-feed-forward-layers) kullanacak şekilde ayarlar.
#### enable_freeu[[diffusers.UNetMotionModel.enable_freeu]]
```python
enable_freeu(s1: float, s2: float, b1: float, b2: float)
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1817)
**Parametreler:**
s1 (`float`) : 1. aşama için, atlanan özelliklerin katkılarını sönümlemek amacıyla kullanılan ölçekleme faktörü. Bu, geliştirilmiş gürültü azaltma sürecindeki "aşırı yumuşatma etkisini" azaltmak için yapılır.
s2 (`float`) : 2. aşama için, atlanan özelliklerin katkılarını azaltmak üzere kullanılan ölçekleme faktörü. Bu, geliştirilmiş gürültü azaltma sürecindeki "aşırı yumuşatma etkisini" hafifletmek için yapılır.
b1 (`float`) : Omurga özelliklerinin katkılarını artırmak için 1. aşama ölçekleme çarpanı.
b2 (`float`) : Omurga özelliklerinin katkılarını artırmak için 2. aşama ölçekleme çarpanı.
https://huggingface.co/papers/2309.11497 adresindeki FreeU mekanizmasını etkinleştirir.
Ölçekleme katsayılarının sonundaki ekler, bu katsayıların uygulandığı aşama bloklarını temsil eder.
Stable Diffusion v1, v2 ve Stable Diffusion XL gibi farklı pipeline'lar için iyi çalıştığı bilinen değer kombinasyonları için [resmi depoya](https://github.com/ChenyangSi/FreeU) bakın.
#### forward[[diffusers.UNetMotionModel.forward]]
```python
forward(sample: Tensor, timestep: typing.Union[torch.Tensor, float, int], encoder_hidden_states: Tensor, timestep_cond: typing.Optional[torch.Tensor] = None, attention_mask: typing.Optional[torch.Tensor] = None, cross_attention_kwargs: dict[str, typing.Any] | None = None, added_cond_kwargs: dict[str, torch.Tensor] | None = None, down_block_additional_residuals: tuple[torch.Tensor] | None = None, mid_block_additional_residual: typing.Optional[torch.Tensor] = None, return_dict: bool = True)
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1882)
**Parametreler:**
sample (`torch.Tensor`) : Şekli `(batch, num_frames, channel, height, width` olan gürültülü giriş tensörü.
timestep (`torch.Tensor` veya `float` veya `int`) : Bir girdinin gürültüsünü gidermek için kullanılacak zaman adımı sayısı.
encoder_hidden_states (`torch.Tensor`) : `(batch, sequence_length, feature_dim)` biçimindeki kodlayıcı gizli durumları.
timestep_cond : (`torch.Tensor`, *isteğe bağlı*, varsayılan `None`): Zaman adımı için koşullu gömme. Sağlanırsa, gömme, `self.time_embedding` katmanından geçirilen örneklerle toplanarak zaman adımı gömmeleri elde edilir.
attention_mask (`torch.Tensor`, *isteğe bağlı*, varsayılan `None`) : `(batch, key_tokens)` biçimindeki bir dikkat maskesi, `encoder_hidden_states` üzerine uygulanır. Değer `1` ise maske korunur, aksi halde `0` ise atılır. Maske, "at" token'larına karşılık gelen dikkat puanlarına büyük negatif değerler ekleyen bir önyargıya dönüştürülür.
cross_attention_kwargs (`dict`, *isteğe bağlı*) : Belirtilirse, [diffusers.models.attention_processor](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/attention_processor.py) içinde `self.processor` altında tanımlanan `AttentionProcessor`'a iletilen bir kwargs sözlüğü.
added_cond_kwargs (`dict`, *isteğe bağlı*) : Modeli koşullandırmak için kullanılan ek gömme (ör. metin ve zaman gömmeleri) sözlüğü.
down_block_additional_residuals : (`tuple` of `torch.Tensor`, *isteğe bağlı*): Belirtilirse, down unet bloklarının artıklarına eklenen tensörlerden oluşan bir tuple.
mid_block_additional_residual : (`torch.Tensor`, *isteğe bağlı*): Belirtilirse, orta unet bloğunun artığına eklenen bir tensör.
return_dict (`bool`, *isteğe bağlı*, varsayılan `True`) : Düz bir tuple yerine `UNetMotionOutput` döndürülecek mi?
**Dönüş:** `UNetMotionOutput` veya `tuple`
`return_dict` True ise `UNetMotionOutput` döndürülür, aksi halde ilk öğesi örnek tensörü olan bir `tuple` döndürülür.
[UNetMotionModel](/docs/diffusers/main/tr/api/models/unet-motion#diffusers.UNetMotionModel) ileri yöntemi.
#### freeze_unet2d_params[[diffusers.UNetMotionModel.freeze_unet2d_params]]
```python
freeze_unet2d_params()
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1691)
Sadece UNet2DConditionModel ağırlıklarını dondurun ve ince ayar için hareket modüllerini dondurulmamış bırakın.
#### fuse_qkv_projections[[diffusers.UNetMotionModel.fuse_qkv_projections]]
```python
fuse_qkv_projections()
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1851)
Füzyonlu QKV projeksiyonlarını etkinleştirir. Kendi dikkat (self-attention) modülleri için tüm projeksiyon matrisleri (yani sorgu, anahtar, değer) füzyonlanır. Çapraz dikkat (cross-attention) modülleri için anahtar ve değer projeksiyon matrisleri füzyonlanır.
> [!WARNING] > Bu API 🧪 deneyseldir.
#### set_default_attn_processor[[diffusers.UNetMotionModel.set_default_attn_processor]]
```python
set_default_attn_processor()
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1801)
Özel dikkat işleyicilerini devre dışı bırakır ve varsayılan dikkat uygulamasını ayarlar.
#### unfuse_qkv_projections[[diffusers.UNetMotionModel.unfuse_qkv_projections]]
```python
unfuse_qkv_projections()
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_motion_model.py#L1873)
Etkinleştirilmişse birleşik QKV projeksiyonunu devre dışı bırakır.
> [!WARNING] > Bu API 🧪 deneyseldir.
## UNet3DConditionOutput[[diffusers.models.unets.unet_3d_condition.UNet3DConditionOutput]]
#### diffusers.models.unets.unet_3d_condition.UNet3DConditionOutput[[diffusers.models.unets.unet_3d_condition.UNet3DConditionOutput]]
```python
diffusers.models.unets.unet_3d_condition.UNet3DConditionOutput(sample: Tensor)
```
[Kaynak](https://github.com/huggingface/diffusers/blob/main/src/diffusers/models/unets/unet_3d_condition.py#L50)
**Parametreler:**
sample (`torch.Tensor`, şekli `(batch_size, num_channels, num_frames, height, width)`) : `encoder_hidden_states` girdisine koşullu gizli durum çıktısı. Modelin son katmanının çıktısı.
[UNet3DConditionModel](/docs/diffusers/main/tr/api/models/unet3d-cond#diffusers.UNet3DConditionModel)'nin çıktısı.

Xet Storage Details

Size:
11.8 kB
·
Xet hash:
70af967d111c7f308805b337cad197bdf2bc8e10ba2a62244922f61962c70a0b

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.