 PoTaTo
|
23a4beb069
Fix API server bugs. (#1019)
|
hai 10 meses |
 Picus303
|
4fc8dbdfe0
Move inference code to library dir (#801)
|
hai 1 ano |
 Lengyue
|
dad516d86d
update checkpoint path
|
hai 1 ano |
|
Lengyue
|
1d942c8b97
Update 1.2 sft checkpoints, inference.ipynb and READMEs
|
hai 1 ano |
 spicysama
|
f2c7eedf6f
Add API usage (#345)
|
hai 1 ano |
|
spicysama
|
ea53678446
Quantization Support (#316)
|
hai 1 ano |
|
Leng Yue
|
5e7914472f
This PR brings V1.2 inference into main (#300)
|
hai 1 ano |
|
Lengyue
|
691b3bb937
Fix quanitzation & remove memory usage
|
hai 1 ano |
|
Lengyue
|
ee7a1beb41
Better quantizer
|
%!s(int64=2) %!d(string=hai) anos |
|
Lengyue
|
afc854ad85
Clean unused code & reorganize
|
%!s(int64=2) %!d(string=hai) anos |
