Comunidade-Synapse-BR/dataset-multilingue-750k

🌍 Synapse Multilingual Dataset

O Synapse Multilingual Dataset é um conjunto de dados multilíngue preparado para tarefas de Processamento de Linguagem Natural (NLP), identificação automática de idiomas, tradução automática e treinamento de modelos multilíngues.

O dataset foi construído a partir do OPUS-100, passando por etapas de limpeza, normalização e remoção de duplicatas para facilitar sua utilização em pesquisas e aplicações de Inteligência Artificial.

---

📖 Visão Geral

Propriedade	Valor
Total de exemplos	750.000
Idiomas	10
Formato	JSONL
Divisão	Train / Validation / Test
Fonte	OPUS-100

---

🌐 Idiomas Suportados

Código	Idioma
pt	Português
en	Inglês
es	Espanhol
fr	Francês
it	Italiano
de	Alemão
ar	Árabe
da	Dinamarquês
cs	Tcheco
el	Grego

---

📂 Estrutura dos Dados

Cada exemplo possui dois campos:

{
  "idioma": "en",
  "texto": "Hello, how are you?"
}

---

📊 Divisão dos Dados

Split	Exemplos
Train	675.000
Validation	37.500
Test	37.500

A divisão foi realizada para evitar vazamento de dados entre treino, validação e teste.

---

💡 Casos de Uso

O dataset pode ser utilizado em:

• Identificação automática de idiomas
• Tradução automática
• Fine-tuning de modelos multilíngues
• Pré-treinamento de modelos leves
• Classificação de texto
• Pesquisa em NLP
• Benchmark de modelos multilíngues

---

⚡ Como Carregar

from datasets import load_dataset

dataset = load_dataset(
    "Comunidade-Synapse-BR/dataset-multilingue-1m"
)

print(dataset["train"][0])

---

🛠️ Processamento

Durante a preparação do dataset foram realizadas as seguintes etapas:

• Remoção de registros duplicados
• Normalização de espaços em branco
• Limpeza de caracteres inválidos
• Embaralhamento dos exemplos
• Separação em treino, validação e teste

---

⚠️ Limitações

Embora tenha sido cuidadosamente preparado, o dataset herda características do corpus original utilizado como fonte.

Dependendo da aplicação, recomenda-se realizar filtragens adicionais ou combinar este conjunto de dados com outras fontes multilíngues.

---

📜 Licença

Este dataset é distribuído conforme os termos da licença especificada neste repositório.

Caso o dataset seja derivado do OPUS-100, consulte também as licenças das coleções originais utilizadas.

---

🤝 Sobre a Comunidade Synapse BR

A Comunidade Synapse BR é uma iniciativa brasileira dedicada ao desenvolvimento de modelos de inteligência artificial, datasets e ferramentas de código aberto.

Nossa missão é tornar a IA mais acessível por meio de soluções leves, eficientes e abertas, fortalecendo o ecossistema brasileiro de Inteligência Artificial.

Contribuições, sugestões e relatos de problemas são sempre bem-vindos.