Commit Verlauf

Autor SHA1 Nachricht Datum
  PoTaTo 23a4beb069 Fix API server bugs. (#1019) vor 10 Monaten
  Picus303 4fc8dbdfe0 Move inference code to library dir (#801) vor 1 Jahr
  Lengyue dad516d86d update checkpoint path vor 1 Jahr
  Lengyue 1d942c8b97 Update 1.2 sft checkpoints, inference.ipynb and READMEs vor 1 Jahr
  spicysama f2c7eedf6f Add API usage (#345) vor 1 Jahr
  spicysama ea53678446 Quantization Support (#316) vor 1 Jahr
  Leng Yue 5e7914472f This PR brings V1.2 inference into main (#300) vor 1 Jahr
  Lengyue 691b3bb937 Fix quanitzation & remove memory usage vor 2 Jahren
  Lengyue ee7a1beb41 Better quantizer vor 2 Jahren
  Lengyue afc854ad85 Clean unused code & reorganize vor 2 Jahren