Buckets:

mishig's picture
|
download
raw
1.51 kB
# Intel Gaudi
A família de aceleradores de IA Intel Gaudi inclui [Intel Gaudi 1](https://habana.ai/products/gaudi/), [Intel Gaudi 2](https://habana.ai/products/gaudi2/) e [Intel Gaudi 3](https://habana.ai/products/gaudi3/). Cada servidor é equipado com 8 dispositivos, conhecidos como Habana Processing Units (HPUs), fornecendo 128GB de memória no Gaudi 3, 96GB no Gaudi 2 e 32GB no Gaudi de primeira geração. Para mais detalhes sobre a arquitetura de hardware subjacente, confira a visão geral da [Gaudi Architecture](https://docs.habana.ai/en/latest/Gaudi_Overview/Gaudi_Architecture.html).
Os pipelines do Diffusers podem aproveitar a aceleração de HPU, mesmo que um pipeline ainda não tenha sido adicionado ao [Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index), com o [GPU Migration Toolkit](https://docs.habana.ai/en/latest/PyTorch/PyTorch_Model_Porting/GPU_Migration_Toolkit/GPU_Migration_Toolkit.html).
Chame `.to("hpu")` no seu pipeline para movê-lo para um dispositivo HPU, conforme mostrado abaixo para o Flux:
```py
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("An image of a squirrel in Picasso style").images[0]
```
> [!TIP]
> Para implementações de pipelines de difusão otimizadas para Gaudi, recomendamos usar [Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index).

Xet Storage Details

Size:
1.51 kB
·
Xet hash:
74ae1c5e72d2e3b0f04a8be101742e0451f00a239548852762f15ac7eef2759c

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.