Buckets:

mishig's picture
|
download
raw
1.71 kB
# Intel Gaudi
Intel Gaudi AIアクセラレーターファミリーには、[Intel Gaudi 1](https://habana.ai/products/gaudi/)、[Intel Gaudi 2](https://habana.ai/products/gaudi2/)、[Intel Gaudi 3](https://habana.ai/products/gaudi3/)が含まれます。各サーバーには、Habana Processing Unit (HPU) と呼ばれる8つのデバイスが搭載されており、Gaudi 3 では 128GB、Gaudi 2 では 96GB、初代 Gaudi では 32GB のメモリを提供します。基盤となるハードウェアアーキテクチャの詳細については、[Gaudi Architecture](https://docs.habana.ai/en/latest/Gaudi_Overview/Gaudi_Architecture.html) の概要をご覧ください。
Diffusersのパイプラインは、[GPU Migration Toolkit](https://docs.habana.ai/en/latest/PyTorch/PyTorch_Model_Porting/GPU_Migration_Toolkit/GPU_Migration_Toolkit.html)を使用することで、[Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index)にまだ追加されていないパイプラインであっても、HPUアクセラレーションを活用できます。
Flux の例のように、以下のようにパイプラインに対して `.to("hpu")` を呼び出して、HPU デバイスに移動します。
```py
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("An image of a squirrel in Picasso style").images[0]
```
> [!TIP]
> Gaudi 向けに最適化された拡散パイプラインの実装については、[Optimum for Intel Gaudi](https://huggingface.co/docs/optimum/main/en/habana/index)の使用を推奨します。

Xet Storage Details

Size:
1.71 kB
·
Xet hash:
d786aaf7f246ca03dc0344e09a6063ae695b5aafaed2d615f17ce766ae3f47be

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.