datasetMasterPesado — ferramentas e fluxo da Alexa

Dataset no formato { "tools": "[...]", "messages": [...] } para Qwen3-4B-Instruct-2507. Os exemplos originais de chamadas diretas, conversa e respostas foram preservados. A ampliação acrescenta exemplos marcados pelo campo bloco dentro de meta como fluxo_plano, fluxo_sequencia, fluxo_sem_acao e fluxo_resposta.

O Unsloth Studio instalado usa datasets 4.3.0, que não entende a feature Json inferida pelo Hub para os JSONL. Por isso, a configuração default aponta para os arquivos Parquet em studio_compat/, exportados com um esquema fixo de messages. Os JSONL originais continuam disponíveis, e as linhas dos quatro splits foram comparadas uma a uma após a exportação. Para refazer a exportação local após alterar os JSONL: python treino/unsloth/exportar_parquet_studio.py treino/unsloth/datasetMasterPesado treino/unsloth/datasetMasterPesado/studio_compat.

tools, meta e messages[].tool_calls[].function.arguments são strings JSON. Seus valores internos continuam completos; decodifique-os com json.loads antes de usá-los como objetos. O Studio decodifica tools por linha ao aplicar o chat template. O script treino/unsloth/treinar.py decodifica os três campos automaticamente.

Arquivo original / split	Linhas	Conteúdo
treino.jsonl / train	35.906	29.587 originais + 6.319 de fluxo
validacao.jsonl / validation	3.138	2.562 originais + 576 de fluxo
teste.jsonl / test	210	holdout anterior, preservado
teste_fluxo.jsonl / test_flow	96	holdout novo do fluxo

Os blocos anteriores (argumento, chamada, lote2, lote3, resultado, cadeia, texto, nocall_pt, conversa_pt e anti-fuga) permanecem para treinar chamadas diretas, argumentos e conversa. Os exemplos usam as 18 ferramentas reais da Alexa. O dataset leve relacionado está em datasetMasterLeve.

O que cada bloco ensina

• fluxo_plano: a fala vira uma chamada de propor_turno com actionTool e actionArgs, sem executar a ferramenta.
• fluxo_sequencia: pedidos independentes que o roteador separa viram uma chamada de propor_sequencia, com ações na ordem falada.
• fluxo_sem_acao: conversa sem ação vira propor_turno com actionTool: "none" e a resposta em response.
• fluxo_resposta: o modelo recebe o resultado de uma ferramenta já executada e redige somente o texto comprovado por esse resultado. O áudio continua sendo produzido pela Alexa.

As ferramentas propor_turno e propor_sequencia e o prompt dos exemplos novos são obtidos do mesmo código usado na produção (lambda/llm.js e lambda/turn.js). A seleção das ferramentas disponíveis passa por lambda/policy.js. A validação e a execução continuam no código da Alexa; nenhum exemplo ensina o modelo a declarar uma execução antes do resultado.

As respostas pós-execução usam resultados sintéticos e controlados, marcados em meta.origem. Cada resposta corresponde exatamente ao resultado que aparece no contexto. Resultados antigos que não coincidem com os argumentos da chamada não são reutilizados nessa parte nova. O log do LM Studio foi usado para diagnosticar o formato das saídas do modelo; nenhum conteúdo do log foi copiado para os exemplos de treino.

Procedência e limites dos dados

As falas próprias de uma ferramenta foram geradas e validadas contra os schemas das 18 ferramentas. Pedidos compostos anteriores foram construídos a partir delas. Nos exemplos antigos do bloco resultado, a saída da ferramenta reaproveitada pode não corresponder aos argumentos daquela linha; por isso ela não serve como evidência de execução para fluxo_resposta.

Os blocos anteriores também incluem recogna-nlp/UltrachatBR (MIT, nocall_pt) e FreedomIntelligence/sharegpt-portuguese (Apache 2.0, conversa_pt). A licença do conjunto é other pela mistura dessas fontes com dados próprios.

Antes deste acréscimo, o modelo base sem treino teve 46,7% de chamadas exatas e 81,0% de nomes de ferramenta corretos nas 210 falas do holdout anterior. São números históricos da avaliação local; não medem o efeito destes novos exemplos.

Treino e avaliação

treino/unsloth/treinar.py aplica o chat template nativo do Qwen ao campo messages com as ferramentas da própria linha. Para fluxo_resposta, a frase anterior do assistente é contexto injetado pela aplicação: só a última resposta recebe perda. Os outros blocos seguem a máscara normal de turnos. Use enable_thinking=False no treino e na inferência. Com max_seq_length=5632, as linhas novas de treino tiveram mediana de 4.416 tokens, p99 de 5.249 e máximo de 5.549, sem truncamento.

teste.jsonl é o holdout anterior de chamadas diretas. teste_fluxo.jsonl é um holdout separado, derivado apenas das falas de teste anteriores que o roteador aceita para proposta. O script de treino informa as duas métricas separadamente. O arquivo contagem.json inclui as quantidades dos blocos novos. Nenhuma métrica de melhora do modelo é presumida antes de treinar e medir o adaptador.

Na verificação local, todas as chamadas novas respeitaram o schema, os planos de ação e sequência foram aceitos pelo validador da Alexa, e os casos sem ação produziram resposta sem execução. O holdout novo é separado das falas usadas para treino e validação.

Recriação da ampliação após reconstruir a base:

node treino/unsloth/ampliar_fluxo_pesado.js --dry-run
node treino/unsloth/ampliar_fluxo_pesado.js
node scripts/verificar-datasets.js treino/unsloth/datasetMasterPesado
python -I treino/unsloth/treinar.check.py

O gerador recusa uma segunda aplicação sobre arquivos já ampliados. A pasta treino/unsloth/datasetMasterPesado_antes_fluxo/, fora do dataset, guarda a base local antes da primeira ampliação.