2 Commits

Author SHA1 Message Date
ChasonJiang
ef1cd01d6e 回退mask策略;
回退pad策略;
在T2SBlock中添加padding_mask,以减少pad的影响;
开放repetition_penalty参数,让用户自行调整重复惩罚的强度;
增加parallel_infer参数,用于开启或关闭并行推理,关闭时与0307版本保持一致;
在webui中增加“保持随机”选项;
同步main分支代码。
2024-04-16 20:06:31 +08:00
ChasonJiang
ec7647e08d
[fast_inference] Make API Great Again And Again (#923)
* 为fast_inference分支适配新的WebAPI

* modified:   api_v2.py

* 修改文档细节

* modified:   api_v2.py

* 优化了代码逻辑,提升健壮性

* 修改文档细节

* 修改文档细节

* 优化代码逻辑

* 修改注释细节
2024-04-06 21:07:59 +08:00