# MiniMaxMusic3Transformer1DModel

Flow-matching Diffusion Transformer объёмом 2,4B из [MiniMax Music 3](https://huggingface.co/MiniMaxAI/MiniMax-Music3). Он выполняет денойзинг 128-канальных латентов аудио Flow-VAE, используя в качестве условия скрытые состояния на каждый кадр из авто-регрессивной языковой модели, при этом timestep flow-matching добавляется как дополнительный токен последовательности (непрерывный трансформер линейки Stable-Audio с частичным rotary attention и GLU feedforwards).

## MiniMaxMusic3Transformer1DModel[[diffusers.MiniMaxMusic3Transformer1DModel]]

#### diffusers.MiniMaxMusic3Transformer1DModel[[diffusers.MiniMaxMusic3Transformer1DModel]]

```python
diffusers.MiniMaxMusic3Transformer1DModel(in_channels: int = 128, condition_dim: int = 2048, num_layers: int = 36, num_attention_heads: int = 32, attention_head_dim: int = 64, ff_inner_dim: int = 8192, rotary_dim: int = 32, fourier_embedding_dim: int = 256)
```

[Источник](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/transformers/transformer_minimax_music3.py#L147)

Диффузионный трансформер с потоковым согласованием (flow-matching) из MiniMax Music 3. Он выполняет удаление шума из латентных представлений аудио Flow-VAE, используя в качестве условия скрытые состояния, сгенерированные на этапе авторегрессионной языковой модели для каждого кадра.

Входные данные представляют собой одномерные латентные последовательности формы `(batch, in_channels, length)`. Условный сигнал (`encoder_hidden_states`, форма `(batch, length, condition_dim)`) должен уже быть выровнен по временной шкале латентного пространства — см. `MiniMaxMusic3ConditionEncoder`. Шаг времени `timestep` для flow-matching изменяется от 0 (шум) до 1 (данные).

#### forward[[diffusers.MiniMaxMusic3Transformer1DModel.forward]]

```python
forward(hidden_states: Tensor, timestep: Tensor, encoder_hidden_states: Tensor, return_dict: bool = True)
```

[Источник](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/transformers/transformer_minimax_music3.py#L196)

**Параметры:**

hidden_states (`torch.Tensor` формы `(batch, in_channels, length)`) : Зашумлённые латенты Flow-VAE.

timestep (`torch.Tensor` формы `(batch,)`) : Время flow-matching в диапазоне `[0, 1]`, где 0 — это чистый шум, а 1 — данные.

encoder_hidden_states (`torch.Tensor` формы `(batch, length, condition_dim)`) : Условие, выровненное по кадрам, от `MiniMaxMusic3ConditionEncoder`. Передайте нули для безусловной ветви classifier-free guidance.

return_dict (`bool`, по умолчанию `True`) : следует ли возвращать [Transformer2DModelOutput](/docs/diffusers/v0.43.0/ru/api/models/cogview3plus_transformer2d#diffusers.models.modeling_outputs.Transformer2DModelOutput) вместо обычного кортежа.

**Возвращает:**

Скорость flow-matching, предсказанная с той же формой, что и `hidden_states`.