Buckets:

mishig's picture
|
download
raw
14.3 kB
# Ideogram 4
Ideogram 4 是一个基于流匹配的文本生成图像模型,采用多模态文本编码器和非对称的无分类器引导方案:专用的 `unconditional_transformer` 通过置零的文本特征生成负分支,而主 `transformer` 则处理完整的打包文本 + 图像序列。
Pipeline 的默认值是为获得最佳质量而推荐的设置,因此直接调用 `pipe(prompt)` 即可开箱即用地生成最佳质量的结果:在 logit-normal 调度(`mu=0.0`、`std=1.5`)上执行 48 步 flow-matching,主步骤的 classifier-free guidance 保持为 7.0,最后 3 个“抛光”步骤则降至 3.0。
关键推理参数通过 pipeline 调用暴露:
- `num_inference_steps`、`mu` 和 `std` 控制分辨率感知的 logit-normal flow-matching 调度。
- `guidance_scale`(或完整的逐步 `guidance_schedule`)用于混合条件速度和无条件速度。
## 文本到图像
```python
import torch
from diffusers import Ideogram4Pipeline
pipe = Ideogram4Pipeline.from_pretrained("ideogram-ai/ideogram-v4", dtype=torch.bfloat16)
pipe.to("cuda") # or "mps", "xpu", "cpu"
prompt = "A photo of a cat holding a sign that says hello world"
# The defaults are the recommended settings for best quality.
image = pipe(prompt, height=1024, width=1024, generator=torch.Generator("cuda").manual_seed(0)).images[0]
image.save("ideogram4.png")
```
## 提示词上采样
Ideogram 4 是基于结构化的 JSON 描述而非自由形式的提示词进行训练的,因此在生成之前,最好将简短的提示词扩展为该原生模式。生成描述有两种方式。
### Remote (Ideogram API)
为获得最佳效果,请使用 Ideogram 托管的 magic-prompt API 扩展提示词,并将返回的说明直接传入 pipeline(在 [developer.ideogram.ai](https://developer.ideogram.ai/) 获取密钥):
```python
import json
import requests
import torch
from diffusers import Ideogram4Pipeline
pipe = Ideogram4Pipeline.from_pretrained("ideogram-ai/ideogram-4-nf4", dtype=torch.bfloat16)
pipe.to("cuda") # or "mps", "xpu", "cpu"
# Expand the prompt into a structured JSON caption with Ideogram's hosted magic-prompt API.
response = requests.post(
"https://api.ideogram.ai/v1/ideogram-v4/magic-prompt",
headers={"Api-Key": "your_ideogram_api_key"},
json={"text_prompt": "A photo of a cat holding a sign that says hello world", "aspect_ratio": "1x1"},
).json()
caption = json.dumps(response["json_prompt"])
# The caption is already upsampled, so pass it directly (no prompt_upsampling).
image = pipe(caption, height=1024, width=1024, generator=torch.Generator("cuda").manual_seed(0)).images[0]
image.save("ideogram4_upsampled.png")
```
### Local (设备端)
对于完全本地化的流水线,请加载一个小型的 [Ideogram4PromptEnhancerHead](/docs/diffusers/v0.43.0/zh/api/pipelines/ideogram4#diffusers.Ideogram4PromptEnhancerHead)(即 Qwen3-VL LM head)作为可选的 `prompt_enhancer_head` 组件,并传入 `prompt_upsampling=True`。该 head 会嫁接到共享的 `text_encoder` 上,因此无需加载第二个文本编码器。请安装 `outlines` 以支持基于 schema 约束的说明文本生成(nf4 检查点还需要 `bitsandbytes`):
```python
import torch
from diffusers import Ideogram4Pipeline, Ideogram4PromptEnhancerHead
prompt_enhancer_head = Ideogram4PromptEnhancerHead.from_pretrained(
"diffusers/qwen3-vl-8b-instruct-lm-head", dtype=torch.bfloat16
)
pipe = Ideogram4Pipeline.from_pretrained(
"ideogram-ai/ideogram-4-nf4", prompt_enhancer_head=prompt_enhancer_head, dtype=torch.bfloat16
)
pipe.to("cuda") # or "mps", "xpu", "cpu"
prompt = "A photo of a cat holding a sign that says hello world"
image = pipe(
prompt,
height=1024,
width=1024,
prompt_upsampling=True,
generator=torch.Generator("cuda").manual_seed(0),
).images[0]
image.save("ideogram4_upsampled.png")
```
## Ideogram4Pipeline[[diffusers.Ideogram4Pipeline]]
#### diffusers.Ideogram4Pipeline[[diffusers.Ideogram4Pipeline]]
```python
diffusers.Ideogram4Pipeline(scheduler: FlowMatchEulerDiscreteScheduler, vae: AutoencoderKLFlux2, text_encoder: PreTrainedModel, tokenizer: AutoTokenizer, transformer: Ideogram4Transformer2DModel, unconditional_transformer: Ideogram4Transformer2DModel, prompt_enhancer_head: diffusers.pipelines.ideogram4.prompt_enhancer.Ideogram4PromptEnhancerHead | None = None)
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/pipeline_ideogram4.py#L141)
**参数:**
scheduler ([FlowMatchEulerDiscreteScheduler](/docs/diffusers/v0.43.0/zh/api/schedulers/flow_match_euler_discrete#diffusers.FlowMatchEulerDiscreteScheduler)):Flow-matching 调度器。该 pipeline 使用分辨率感知的 logit-normal 调度覆盖了默认的 sigma 调度。
vae (`AutoencoderKLFlux2`):用于将潜在变量解码回图像的变分自编码器。
text_encoder (`PreTrainedModel`):多模态文本编码器。该流水线使用来自一组固定中间解码器层的隐藏状态(参见 `QWEN3_VL_ACTIVATION_LAYERS`)。
tokenizer (`AutoTokenizer`):与 `text_encoder` 配对的 Tokenizer。
transformer ([Ideogram4Transformer2DModel](/docs/diffusers/v0.43.0/zh/api/models/ideogram4_transformer2d#diffusers.Ideogram4Transformer2DModel)):条件流匹配 Transformer。
unconditional_transformer ([Ideogram4Transformer2DModel](/docs/diffusers/v0.43.0/zh/api/models/ideogram4_transformer2d#diffusers.Ideogram4Transformer2DModel)):无条件(非对称 CFG)流匹配 Transformer。
Ideogram4 的文本到图像流水线。
Ideogram4 是一个采用非对称无分类器引导(asymmetric classifier-free guidance)进行训练的流匹配模型:一个 `transformer` 同时接收文本条件特征和图像潜在表示,而另一个独立的 `unconditional_transformer` 则在文本特征置零的情况下执行去噪。每一步中,两个速度预测值会进行线性混合。
#### __调用__[[diffusers.Ideogram4Pipeline.__call__]]
```python
__call__(prompt: str | list[str] | None = None, height: int = 2048, width: int = 2048, num_inference_steps: int = 48, guidance_scale: float | None = None, guidance_schedule: typing.Union[list[float], torch.Tensor, NoneType] = (7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 7.0, 3.0, 3.0, 3.0), mu: float = 0.0, std: float = 1.5, prompt_upsampling: bool = False, prompt_upsampling_temperature: float = 1.0, max_sequence_length: int = 2048, num_images_per_prompt: int = 1, generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = None, latents: typing.Optional[torch.Tensor] = None, output_type: str = 'pil', return_dict: bool = True, attention_kwargs: dict[str, typing.Any] | None = None, callback_on_step_end: typing.Optional[typing.Callable[[ForwardRef('Ideogram4Pipeline'), int, int, dict[str, typing.Any]], dict[str, typing.Any]]] = None, callback_on_step_end_tensor_inputs: list[str] = ['latents'])
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/pipeline_ideogram4.py#L481)
**参数:**
prompt (`str` 或 `list[str]`):用于引导图像生成的提示词。
height (`int`,*可选*,默认值为 2048):输出图像的高度(以像素为单位);必须是 `vae_scale_factor * patch_size` 的倍数。
width (`int`,*可选*,默认值为 2048):输出图像的宽度(以像素为单位);必须是 `vae_scale_factor * patch_size` 的倍数。
num_inference_steps (`int`,*可选*,默认值为 48):流匹配(flow-matching)的步数。默认值为推荐的最佳质量设置。
guidance_scale (`float`, *可选*) : 在每个步骤中应用的恒定 classifier-free guidance 缩放系数。条件速度预测和无条件速度预测按 `v = guidance_scale * v_pos + (1 - guidance_scale) * v_neg` 进行混合。与 `guidance_schedule` 互斥(同时设置两者会引发错误)。默认值为 `None`。
guidance_schedule (`list[float]` 或 `torch.Tensor`,*可选*) : 每步引导比例调度;长度必须为 `num_inference_steps`。第一个条目对应第一步(最大噪声水平)。与 `guidance_scale` 互斥;必须且只能设置其中一个。默认使用推荐调度(主步骤为 7.0,最后 3 个“抛光”步骤降至 3.0)。若要使用恒定比例,请传入 `guidance_scale` 并设置 `guidance_schedule=None`。
mu (`float`, *可选*,默认值为 0.0):logit-normal flow-matching 调度的基础均值。调度均值会根据相对于 512x512 的分辨率比值的对数的一半进行偏移。
std (`float`, *可选*,默认值为 1.5) : logit-normal flow-matching 调度的标准差。
prompt_upsampling (`bool`,*可选*,默认为 `False`):如果为 `True`,则在编码之前,通过 [upsample_prompt()](/docs/diffusers/v0.43.0/zh/api/pipelines/ideogram4#diffusers.Ideogram4Pipeline.upsample_prompt) 将 `prompt` 重写为 Ideogram4 原生的结构化 JSON 描述。需要可选的 `prompt_enhancer_head` 组件;请安装 `outlines` 以支持基于模式约束的描述生成。`generator` 会被复用,以确保上采样过程可复现。
prompt_upsampling_temperature (`float`,*可选*,默认值为 1.0):当 `prompt_upsampling=True` 时,用于提示上采样的采样温度。
max_sequence_length (`int`,*可选*,默认值为 2048):每个提示词的最大文本 token 数。
num_images_per_prompt (`int`,*可选*,默认为 1):每个提示词生成的图像数量。
generator (`torch.Generator` 或 `list[torch.Generator]`,*可选*):用于使采样过程确定性的生成器。
latents (`torch.Tensor`, *可选*) : 形状为 `(batch_size, num_image_tokens, latent_dim)` 的预生成噪声。
output_type (`str`,*可选*,默认为 `"pil"`):`"pil"`、`"np"`、`"pt"` 或 `"latent"` 之一。
return_dict (`bool`,*可选*,默认为 `True`):是否返回 [Ideogram4PipelineOutput](/docs/diffusers/v0.43.0/zh/api/pipelines/ideogram4#diffusers.pipelines.ideogram4.Ideogram4PipelineOutput)。
attention_kwargs (`dict`, *可选*) : 传递给每个 transformer 的 attention processor 的 kwargs 字典。当 PEFT 后端处于激活状态时,`"scale"` 条目会对加载的 LoRA 权重进行缩放(例如 `{"scale": 0.7}`)。
callback_on_step_end (`Callable`,*可选*):在每个去噪步骤结束时调用的回调函数。
callback_on_step_end_tensor_inputs (`list[str]`,*可选*) : 通过 `callback_kwargs` 暴露给回调的张量名称。
**返回值:**
[Ideogram4PipelineOutput](/docs/diffusers/v0.43.0/zh/api/pipelines/ideogram4#diffusers.pipelines.ideogram4.Ideogram4PipelineOutput) 或 `tuple`。
运行文本到图像生成。
示例:
```py
>>> import torch
>>> from diffusers import Ideogram4Pipeline
>>> pipe = Ideogram4Pipeline.from_pretrained("ideogram-ai/ideogram-v4", torch_dtype=torch.bfloat16)
>>> pipe.to("cuda")
>>> prompt = "A photo of a cat holding a sign that says hello world"
>>> # The defaults are the recommended settings for best quality.
>>> image = pipe(prompt, height=2048, width=2048, generator=torch.Generator("cuda").manual_seed(0)).images[0]
>>> image.save("ideogram4.png")
```
#### encode_prompt[[diffusers.Ideogram4Pipeline.encode_prompt]]
```python
encode_prompt(prompt: str | list[str], grid_h: int, grid_w: int, max_sequence_length: int, device: device)
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/pipeline_ideogram4.py#L335)
为打包的文本+图像序列准备条件(每个提示词对应一个条目)。
返回一个扁平元组 `(prompt_embeds, position_ids, segment_ids, indicator)`。由于无条件分支不包含任何文本,因此流水线直接构建其(已置零的)输入,而不是对负向提示进行编码。
#### upsample_prompt[[diffusers.Ideogram4Pipeline.upsample_prompt]]
```python
upsample_prompt(prompt: str | list[str], height: int = 2048, width: int = 2048, temperature: float = 1.0, max_new_tokens: int = 1024, generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = None, device: typing.Optional[torch.device] = None)
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/pipeline_ideogram4.py#L204)
将每个提示词重写为 Ideogram4 的原生结构化 JSON 描述。
需要可选的 `prompt_enhancer_head` 组件,该组件会嫁接到共享的 `text_encoder` 主体上,使其具备生成能力。如果已安装 `outlines`,则生成过程受模式约束;否则,生成过程不受约束。传入 `generator`(与 `__call__` 接受的相同)可使采样过程可复现。
## Ideogram4PromptEnhancerHead[[diffusers.Ideogram4PromptEnhancerHead]]
#### diffusers.Ideogram4PromptEnhancerHead[[diffusers.Ideogram4PromptEnhancerHead]]
```python
diffusers.Ideogram4PromptEnhancerHead(hidden_size: int = 4096, vocab_size: int = 151936)
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/prompt_enhancer.py#L42)
用于使无头 Qwen3-VL `text_encoder` 具备提示词上采样生成能力的 LM head。
一个可选的流水线组件(`prompt_enhancer_head`):其权重通过常规的 `from_pretrained` 加载(来自其独立的小型仓库,或打包在模型仓库中),而不是在流水线内部下载。在上采样阶段,流水线会将其与共享的 `text_encoder` 主体组合起来,以构成生成模型。
## Ideogram4PipelineOutput[[diffusers.pipelines.ideogram4.Ideogram4PipelineOutput]]
#### diffusers.pipelines.ideogram4.Ideogram4PipelineOutput[[diffusers.pipelines.ideogram4.Ideogram4PipelineOutput]]
```python
diffusers.pipelines.ideogram4.Ideogram4PipelineOutput(images: list[PIL.Image.Image] | numpy.ndarray)
```
[源代码](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/pipelines/ideogram4/pipeline_output.py#L24)
**参数:**
images (`list[PIL.Image.Image]` 或 `np.ndarray`) : 长度为 `batch_size` 的去噪 PIL 图像列表,或形状为 `(batch_size, height, width, num_channels)` 的 numpy 数组。
Ideogram 4 管道的输出类。

Xet Storage Details

Size:
14.3 kB
·
Xet hash:
a9bbdcc03eeb78090b2a6ad8909cb55d8f5a5090972387683c7e81e7a762c49f

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.