Transformers documentation
🤗 Notebooks do Transformers
🤗 Notebooks do Transformers
Você pode encontrar aqui uma lista dos notebooks oficiais fornecidos pela Hugging Face.
Além disso, gostaríamos de listar aqui conteúdos interessantes criados pela comunidade. Se você escreveu algum notebook que utiliza o 🤗 Transformers e gostaria de ser listado aqui, abra um Pull Request para que ele seja incluído na seção de Notebooks da comunidade.
Notebooks da Hugging Face 🤗
Notebooks da documentação
Você pode abrir qualquer página da documentação como um notebook no Colab (há um botão diretamente nessas páginas), mas elas também estão listadas aqui, caso precise:
| Notebook | Descrição | |||
|---|---|---|---|---|
| Visão geral rápida da biblioteca | Uma apresentação das diversas APIs em Transformers | |||
| Resumo das tarefas | Como executar os modelos da biblioteca Transformers tarefa por tarefa | |||
| Pré-processamento de dados | Como usar um tokenizer para pré-processar seus dados | |||
| Ajuste fino de um modelo pré-treinado | Como usar o Trainer para fazer fine-tuning de um modelo pré-treinado | |||
| Resumo dos tokenizers | As diferenças entre o algoritmo dos tokenizers | |||
| Modelos multilíngues | Como usar os modelos multilíngues da biblioteca |
Exemplos do PyTorch
Processamento de Linguagem Natural
| Notebook | Descrição | |||
|---|---|---|---|---|
| Treine seu tokenizer | Como treinar e usar o seu próprio tokenizer | |||
| Treine seu modelo de linguagem | Como começar a usar o transformers com facilidade | |||
| Como ajustar finamente um modelo para classificação de texto | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado em qualquer tarefa do GLUE. | |||
| Como fazer o ajuste fino de um modelo em modelagem de linguagem | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado em uma tarefa de LM causal ou mascarado. | |||
| Como ajustar finamente um modelo para classificação de tokens | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado em uma tarefa de classificação de tokens (NER, PoS). | |||
| Como fazer o ajuste fino de um modelo para resposta a perguntas | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado no SQUAD. | |||
| Como ajustar finamente um modelo em múltipla escolha | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado no SWAG. | |||
| Como ajustar finamente um modelo para tradução | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado no WMT. | |||
| Como fazer o ajuste fino de um modelo para sumarização | Mostre como pré-processar os dados e ajustar finamente um modelo pré-treinado no XSUM. | |||
| Como treinar um modelo de linguagem do zero | Destaque todas as etapas para treinar efetivamente um modelo Transformer em dados personalizados | |||
| Como gerar texto | Como usar diferentes métodos de decodificação para geração de linguagem com transformers | |||
| Reformer | Como o Reformer empurra os limites da modelagem de linguagem |
Visão Computacional
| Notebook | Descrição | |||
|---|---|---|---|---|
| Como ajustar finamente um modelo para classificação de imagens (Torchvision) | Mostrar como pré-processar os dados usando Torchvision e ajustar finamente qualquer modelo de Visão pré-treinado em Classificação de Imagens | |||
| Como ajustar finamente um modelo para classificação de imagens (Albumentations) | Mostre como pré-processar os dados usando Albumentations e ajustar finamente qualquer modelo de Visão pré-treinado em Classificação de Imagens | |||
| Como ajustar finamente um modelo para classificação de imagens (Kornia) | Mostre como pré-processar os dados usando Kornia e ajustar finamente qualquer modelo de Visão pré-treinado em Classificação de Imagens | |||
| Como realizar detecção de objetos zero-shot com OWL-ViT | Mostrar como realizar detecção de objetos zero-shot em imagens com consultas de texto | |||
| Como ajustar finamente um modelo de legendagem de imagens | Mostrar como fazer o ajuste fino do BLIP para legendagem de imagens em um conjunto de dados personalizado | |||
| Como construir um sistema de similaridade de imagens com Transformers | Mostre como construir um sistema de similaridade de imagens | |||
| Como fazer o ajuste fino de um modelo SegFormer em segmentação semântica | Mostrar como pré-processar os dados e ajustar finamente um modelo SegFormer pré-treinado em Segmentação Semântica | |||
| Como fazer o ajuste fino de um modelo VideoMAE para classificação de vídeo | Mostrar como pré-processar os dados e ajustar finamente um modelo VideoMAE pré-treinado para Classificação de Vídeo |
Áudio
| Notebook | Descrição | ||
|---|---|---|---|
| Como ajustar finamente um modelo de reconhecimento de fala em inglês | Mostrar como pré-processar os dados e ajustar finamente um modelo de fala pré-treinado no TIMIT | ||
| Como ajustar finamente um modelo de reconhecimento de fala em qualquer idioma | Mostrar como pré-processar os dados e ajustar finamente um modelo de fala pré-treinado multilíngue no Common Voice | ||
| Como ajustar finamente um modelo para classificação de áudio | Mostre como pré-processar os dados e ajustar finamente um modelo de fala pré-treinado para Keyword Spotting |
Sequências Biológicas
| Notebook | Descrição | ||
|---|---|---|---|
| Como fazer o ajuste fino de um modelo de proteína pré-treinado | Veja como tokenizar proteínas e ajustar finamente um grande modelo de “linguagem” pré-treinado para proteínas | ||
| Como gerar dobras de proteínas | Veja como ir de uma sequência de proteína para um modelo de proteína completo e um arquivo PDB | ||
| Como fazer o ajuste fino de um modelo Nucleotide Transformer | Veja como tokenizar DNA e ajustar finamente um grande modelo de "linguagem" de DNA pré-treinado | ||
| Fine-tune um modelo Nucleotide Transformer com LoRA | Treine modelos de DNA ainda maiores de forma eficiente em memória |
Outras modalidades
| Notebook | Descrição | ||
|---|---|---|---|
| Predição Probabilística de Séries Temporais | Veja como treinar o Time Series Transformer em um conjunto de dados personalizado |
Notebooks de utilitários
| Notebook | Descrição | ||
|---|---|---|---|
| Como exportar um modelo para ONNX | Destaque como exportar e executar cargas de trabalho de inferência por meio do ONNX |
Notebooks do Optimum
🤗 Optimum é uma extensão do 🤗 Transformers que oferece um conjunto de ferramentas de otimização de desempenho para treinar e executar modelos com máxima eficiência em hardware específico.
| Notebook | Descrição | ||
|---|---|---|---|
| Como quantizar um modelo com ONNX Runtime para classificação de texto | Mostre como aplicar quantização estática e dinâmica em um modelo usando ONNX Runtime para qualquer tarefa GLUE. | ||
| Como ajustar finamente um modelo para classificação de texto com ONNX Runtime | Mostre como pré-processar os dados e ajustar finamente um modelo em qualquer tarefa do GLUE usando ONNX Runtime. | ||
| Como ajustar finamente um modelo para resumo com ONNX Runtime | Mostre como pré-processar os dados e ajustar finamente um modelo no XSUM usando ONNX Runtime. |
Notebooks da comunidade
Mais notebooks desenvolvidos pela comunidade estão disponíveis aqui.
Update on GitHub