Buckets:

mishig's picture
|
download
raw
1.9 kB
# Intel Gaudi
Семейство ИИ-ускорителей Intel Gaudi включает [Intel Gaudi 1](https://habana.ai/products/gaudi/), [Intel Gaudi 2](https://habana.ai/products/gaudi2/) и [Intel Gaudi 3](https://habana.ai/products/gaudi3/). Каждый сервер оснащён 8 устройствами, известными как Habana Processing Units (HPU), которые обеспечивают 128 ГБ памяти на Gaudi 3, 96 ГБ на Gaudi 2 и 32 ГБ на Gaudi первого поколения. Дополнительные сведения об архитектуре базового оборудования можно найти в обзоре [Gaudi Architecture](https://docs.habana.ai/en/latest/Gaudi_Overview/Gaudi_Architecture.html).
Пайплайны Diffusers могут использовать ускорение HPU, даже если пайплайн ещё не добавлен в [Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index), с помощью [GPU Migration Toolkit](https://docs.habana.ai/en/latest/PyTorch/PyTorch_Model_Porting/GPU_Migration_Toolkit/GPU_Migration_Toolkit.html).
Вызовите `.to("hpu")` для вашего пайплайна, чтобы переместить его на устройство HPU, как показано ниже для Flux:
```py
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("An image of a squirrel in Picasso style").images[0]
```
> [!TIP]
> Для реализаций диффузионных пайплайнов, оптимизированных под Gaudi, мы рекомендуем использовать [Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index).

Xet Storage Details

Size:
1.9 kB
·
Xet hash:
388f6b42749c4f4d3abf8192c61991d31c8e846525e074540d5c93e7b7a1c9c8

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.