Laya · porteiro e N0 do suporte OrbitraCode — v3 (com contexto)
Fine-tune do Laya multilíngue para duas decisões do suporte:
- porteiro: a conversa do grupo de WhatsApp do cliente é problema, dúvida, pedido, agradecimento, confirmação ou conversa; fala do software; continua algum caso aberto.
- N0: a linha de log pede ação do time (falha real, segurança) ou é ruído/oscilação.
Formato leve: vocabulário podado para pt/en/código/log (256 000 → 101 760 tokens), pesos em bf16 — 388 MB no disco, ~870 MB de RAM com PyTorch só-CPU, ~160 ms por resposta na CPU.
v3: contexto
A v3 recebe também conversa_anterior no estado (a conversa anterior do grupo, últimas 2 h, só como contexto — o mesmo
que o LLM do porteiro recebe). Treinada com +2 000 exemplos derivados de continuação ("e aí, novidade?", "voltou o erro",
"funcionou"), anterior sem relação, blocos misturados e ruído de digitação.
| Teste | LLM de hoje | v1 | v3 | cascata v3 (corte 0,7) |
|---|---|---|---|---|
| Contexto (120 conversas, frases que o treino não viu): tipo | 95/120 | 46/120 | 95/120 | 99/120 (Laya decide 85 %) |
| Contexto: caso relacionado | 105/120 | 93/120 | 87/120 | 91/120 |
| Porteiro (20) / cliente novo: tipo (100) | 19 / 88 | 18 / 87 | 17 / 86 |
Sem contexto a v1 (revisão anterior deste repositório) é um pouco melhor; com contexto, a v3.
Uso
from leve import carregar # leve.py está neste repositório
ag = carregar("caminho/da/pasta") # snapshot_download("XablauMoon/laya-porteiro")
ag.system_one(estado, perguntas)
As perguntas precisam ser as mesmas do treino (texto das instruções e critérios do porteiro e do N0).
Treino
2 178 exemplos sintéticos (conversas de 22 tipos de sistema e logs de 15 stacks), nenhum do cliente avaliado. 3 épocas, RLCD, GPU RX 6700 XT em clock baixo (junção ≤ 72 °C).
Resultado (formato leve)
| Teste | Antes | Depois | Referência |
|---|---|---|---|
| Porteiro — 20 conversas reais de um cliente fora do treino (decisão abre/filtra/junta) | 15/20 | 18/20 | LLM atual 18/20 |
| N0 — 22 linhas de log reais (agir sim/não) | 10/22 | 13/22 (pegou 7/8 falhas, 8 alarmes falsos) | regra 13/22 |
| Cliente novo — 100 conversas de 4 sistemas fora do treino: tipo | 38/100 | 87/100 | |
| Cliente novo — caso relacionado | 23/41 | 35/41 | |
| Avaliação interna (568 itens sintéticos fora do treino) | 48,9 % | 82,0 % (ECE 0,29 → 0,036) |
- Downloads last month
- 5