Commit History

  1. Set do_sample=True

    Arturo Jiménez de los Galanes Reguillos
    7dfeb8a
  2. Update generation_kwargs dictionary

    Arturo Jiménez de los Galanes Reguillos
    31bbafb
  3. Format generation_kwargs dictionary

    Arturo Jiménez de los Galanes Reguillos
    dde5ace
  4. Update model to NTQAI/Nxcode-CQ-7B-orpo

    Arturo Jiménez de los Galanes Reguillos
    e73ae0d

  1. Skip prompt for streamer

    Arturo Jiménez de los Galanes Reguillos
    41caafb
  2. Add streamer to generation_kwargs

    Arturo Jiménez de los Galanes Reguillos
    dc9192f
  3. Add input_ids key to generation_kwargs

    Arturo Jiménez de los Galanes Reguillos
    e9017bf
  4. Add streaming again

    Arturo Jiménez de los Galanes Reguillos
    47728bf
  5. Access input properties with .

    Arturo Jiménez de los Galanes Reguillos
    efce22a
  6. Try to handle inputs slightly different

    Arturo Jiménez de los Galanes Reguillos
    4157280
  7. Fix problem with attention mask

    Arturo Jiménez de los Galanes Reguillos
    74704c7
  8. Add progress bar

    Arturo Jiménez de los Galanes Reguillos
    874ae6d
  9. Set attention mask

    Arturo Jiménez de los Galanes Reguillos
    4711fbe
  10. Do not stream response, by now

    Arturo Jiménez de los Galanes Reguillos
    4952bf3
  11. Restore chat template

    Arturo Jiménez de los Galanes Reguillos
    005c893
  12. Add chat template directly to tokenizer

    Arturo Jiménez de los Galanes Reguillos
    25de67e
  13. use chat template

    Arturo Jiménez de los Galanes Reguillos
    0580074
  14. Remove not needed string

    Arturo Jiménez de los Galanes Reguillos
    06e297b
  15. Remove dead code

    Arturo Jiménez de los Galanes Reguillos
    01c7ec8
  16. Apply a found chat template

    Arturo Jiménez de los Galanes Reguillos
    cc63cd7
  17. Fix bos token

    Arturo Jiménez de los Galanes Reguillos
    7a4427a
  18. Put python code into a code block

    Arturo Jiménez de los Galanes Reguillos
    30194f2
  19. Add streamer kwargs

    Arturo Jiménez de los Galanes Reguillos
    73c4071
  20. Typo fix

    Arturo Jiménez de los Galanes Reguillos
    43c389f
  21. Manually build chat template

    Arturo Jiménez de los Galanes Reguillos
    fde3482
  22. Remove chat template usage

    Arturo Jiménez de los Galanes Reguillos
    87c9e01
  23. Refactor to fit model recomended usage

    Arturo Jiménez de los Galanes Reguillos
    314c465
  24. Refactor to fit model recomended usage

    Arturo Jiménez de los Galanes Reguillos
    0a193bf
  25. Add quantization

    Arturo Jiménez de los Galanes Reguillos
    e93ccdc
  26. Remove unused packages

    Arturo Jiménez de los Galanes Reguillos
    6d8bd5f
  27. Do some refactorization

    Arturo Jiménez de los Galanes Reguillos
    1d2e578
  28. Add generation code

    Arturo Jiménez de los Galanes Reguillos
    a22e0d4
  29. Add huggingface login

    Arturo Jiménez de los Galanes Reguillos
    3b47068
  30. Add application file

    Arturo Jiménez de los Galanes Reguillos
    29b560e