Picus303
|
4fc8dbdfe0
Move inference code to library dir (#801)
|
пре 1 година |
Lengyue
|
dad516d86d
update checkpoint path
|
пре 1 година |
Lengyue
|
1d942c8b97
Update 1.2 sft checkpoints, inference.ipynb and READMEs
|
пре 1 година |
spicysama
|
f2c7eedf6f
Add API usage (#345)
|
пре 1 година |
spicysama
|
ea53678446
Quantization Support (#316)
|
пре 1 година |
Leng Yue
|
5e7914472f
This PR brings V1.2 inference into main (#300)
|
пре 1 година |
Lengyue
|
691b3bb937
Fix quanitzation & remove memory usage
|
пре 1 година |
Lengyue
|
ee7a1beb41
Better quantizer
|
пре 2 година |
Lengyue
|
afc854ad85
Clean unused code & reorganize
|
пре 2 година |