Commit History

Autor SHA1 Mensaxe Data
  Lengyue dad516d86d update checkpoint path hai 1 ano
  Lengyue 1d942c8b97 Update 1.2 sft checkpoints, inference.ipynb and READMEs hai 1 ano
  spicysama f2c7eedf6f Add API usage (#345) hai 1 ano
  spicysama ea53678446 Quantization Support (#316) hai 1 ano
  Leng Yue 5e7914472f This PR brings V1.2 inference into main (#300) hai 1 ano
  Lengyue 691b3bb937 Fix quanitzation & remove memory usage hai 1 ano
  Lengyue ee7a1beb41 Better quantizer %!s(int64=2) %!d(string=hai) anos
  Lengyue afc854ad85 Clean unused code & reorganize %!s(int64=2) %!d(string=hai) anos