Commit History

Autor SHA1 Mensaxe Data
  Leng Yue 5e7914472f This PR brings V1.2 inference into main (#300) hai 1 ano
  Lengyue 691b3bb937 Fix quanitzation & remove memory usage hai 1 ano
  Lengyue ee7a1beb41 Better quantizer %!s(int64=2) %!d(string=hai) anos
  Lengyue afc854ad85 Clean unused code & reorganize %!s(int64=2) %!d(string=hai) anos