Intel Gaudi

Intel Gaudi AI hızlandırıcı ailesi Intel Gaudi 1, Intel Gaudi 2 ve Intel Gaudi 3 modellerini içerir. Her sunucu, Habana İşlem Birimleri (HPU) olarak bilinen 8 cihazla donatılmıştır; bu cihazlar Gaudi 3'te 128GB, Gaudi 2'de 96GB ve birinci nesil Gaudi'de 32GB bellek sağlar. Altta yatan donanım mimarisi hakkında daha fazla ayrıntı için Gaudi Architecture genel bakışına göz atın.

Diffusers pipeline'leri, bir pipeline henüz Optimum for Intel Gaudi'ye eklenmemiş olsa bile, GPU Migration Toolkit sayesinde HPU hızlanmasından yararlanabilir.

Aşağıda Flux için gösterildiği gibi, hattınızı bir HPU cihazına taşımak için .to("hpu") çağrısını yapın:

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", dtype=torch.bfloat16)
pipeline.to("hpu")

image = pipeline("An image of a squirrel in Picasso style").images[0]

Gaudi-optimize edilmiş difüzyon hattı uygulamaları için Optimum for Intel Gaudi kullanmanızı öneririz.