Create README.md

README.md

@@ -0,0 +1,82 @@
+---
+language:
+- pt
+license: other
+pretty_name: AMALIA-LLM-0626-SFT-Dataset-classlangcode
+size_categories:
+- 1M<n<10M
+task_categories:
+- text-classification
+- text-generation
+tags:
+- portuguese
+- português
+- pt
+- european-portuguese
+- português europeu
+- pt-pt
+- instruction-tuning
+- sft
+- conversations
+- dialogue
+- language-identification
+- code-classification
+- fasttext
+- metadata
+- amalia
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: stage2/*.parquet
+
+# AMALIA-LLM-0626-SFT-Dataset-classlangcode
+## Overview
+
+Este dataset é baseado no amalia-llm/AMALIA-LLM-0626-SFT-Dataset, mantendo integralmente a estrutura das conversações e adicionando metadados obtidos através de classificação automática. O objetivo desta versão é facilitar a seleção, filtragem e construção de subconjuntos especializados para treino e avaliação de modelos de linguagem, sem alterar o conteúdo original das conversações. O dataset original foi desenvolvido para a fase de Supervised Fine-Tuning (SFT) do modelo AMALIA, sendo constituído por conversações em formato instruction-following, predominantemente em Português Europeu.
+A diferença face ao original é que nesta versão foram acrescentados quatro campos, para acolher os dois tipos de classificação que foram efectuados:
+- Identificação de idioma, utilizando o modelo FastText lid.176.bin.
+- Classificação de conteúdo, distinguindo entre linguagem natural e código, utilizando o modelo model_quantized.bin do projeto code-natural-language-fasttext-classifier.
+
+Colunas adicionais no dataset
+- score	Confiança da classificação do idioma.
+- code	Classificação do conteúdo (NaturalLanguage ou Code).
+- code_score	Confiança da classificação de conteúdo.
+
+O objetivo destes novos campos é permitir a extração eficiente de subconjuntos do dataset original segundo critérios simples, tais como:
+
+- idioma predominante;
+- confiança da classificação do idioma;
+- presença de código ou linguagem natural;
+- dimensão das conversações;
+- combinação destes critérios para construir datasets especializados.
+- Dataset Structure
+
+Esta versão não modifica qualquer conteúdo textual (ou formato) do dataset original.
+
+
+## Intended Uses
+Este dataset destina-se principalmente a:
+
+- construção de subconjuntos especializados para treino SFT;
+- preparação de datasets focados em Português Europeu;
+- estudos sobre distribuição de idiomas em datasets conversacionais;
+- análise da presença de código em datasets de instruções;
+- desenvolvimento de pipelines de filtragem e curadoria de dados.
+
+## Classification Models
+Language Identification: FastText lid.176.bin, 176 idiomas suportados.
+Code Detection: FastText model_quantized.bin, kenhktsui/code-natural-language-fasttext-classifier
+
+
+## Dataset URL
+https://huggingface.co/datasets/amalia-llm/AMALIA-LLM-0626-SFT-Dataset
+
+
+## classifiers URL
+https://huggingface.co/kenhktsui/code-natural-language-fasttext-classifier
+
+# Citações
+Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA: A fully open large language model for European Portuguese. In Proceedings of the 17th International Conference on Computational Processing of Portuguese (PROPOR 2026) – Vol. 1 (pp. 380–391). Association for Computational Linguistics. https://aclanthology.org/2026.propor-1.38/
+
+Simplício, A., Vinagre, G., Ramos, M. M., Tavares, D., Ferreira, R., Attanasio, G., Alves, D. M., Calvo, I., Vieira, I., Guerra, R., Furtado, J., Canaverde, B., Paulo, I., Ramos, V., Glória-Silva, D., Faria, M., Treviso, M., Gomes, D., Gomes, P., … Magalhães, J. (2026). AMALIA Technical Report: A fully open source large language model for European Portuguese. arXiv:2603.26511. https://arxiv.org/abs/2603.26511