ChasonJiang 0e868ada60 更改gpt并行推理时的mask策略为padding left，使batch_infer更接近于naive_infer ...

减少冗余操作并使用torch_sdpa，以提升推理速度

2025-03-04 16:27:18 +08:00

..

data

v1v2 Version Switching (#1391)

2024-08-06 12:00:51 +08:00

models

更改gpt并行推理时的mask策略为padding left，使batch_infer更接近于naive_infer

2025-03-04 16:27:18 +08:00

modules

修改代码引用，淡定

2024-02-28 17:31:19 +08:00

text_processing

修改代码引用，淡定

2024-02-28 17:31:19 +08:00

utils

more code refactor

2024-01-16 17:14:18 +01:00

__init__.py

Add files via upload

2024-01-16 17:38:48 +08:00