Transformers documentation

Optimum

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.2).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Optimum

Optimum é uma biblioteca de otimização que suporta quantização para Intel, Furiosa, ONNX Runtime, GPTQ e funções de quantização de baixo nível do PyTorch. Ela foi projetada para aprimorar o desempenho em hardware específico — CPUs/HPUs da Intel, GPUs da AMD, NPUs da Furiosa, etc. — e aceleradores de modelos como o ONNX Runtime.

Update on GitHub