mirror of
https://github.com/THUDM/CogVideo.git
synced 2025-09-19 12:20:00 +08:00
torchao
This commit is contained in:
parent
ee9c0b38ab
commit
5a427dbed1
@ -114,6 +114,10 @@ pip install -r requirements.txt
|
|||||||
Then follow [diffusers_demo](inference/cli_demo.py): A more detailed explanation of the inference code, mentioning the
|
Then follow [diffusers_demo](inference/cli_demo.py): A more detailed explanation of the inference code, mentioning the
|
||||||
significance of common parameters.
|
significance of common parameters.
|
||||||
|
|
||||||
|
For more details on quantized inference, please refer
|
||||||
|
to [diffusers-torchao](https://github.com/sayakpaul/diffusers-torchao/). A full list of memory and time benchmarks with
|
||||||
|
various settings on A100 and H100 has been published there.
|
||||||
|
|
||||||
## Gallery
|
## Gallery
|
||||||
|
|
||||||
### CogVideoX-5B
|
### CogVideoX-5B
|
||||||
|
@ -97,6 +97,9 @@ pip install -r requirements.txt
|
|||||||
|
|
||||||
次に [diffusers_demo](inference/cli_demo.py) を参照してください: 推論コードの詳細な説明が含まれており、一般的なパラメータの意味についても言及しています。
|
次に [diffusers_demo](inference/cli_demo.py) を参照してください: 推論コードの詳細な説明が含まれており、一般的なパラメータの意味についても言及しています。
|
||||||
|
|
||||||
|
量子化推論に関する詳細は、[diffusers-torchao](https://github.com/sayakpaul/diffusers-torchao/)
|
||||||
|
をご覧ください。A100とH100における様々な設定でのメモリおよび時間のベンチマークリストが公開されています。
|
||||||
|
|
||||||
## Gallery
|
## Gallery
|
||||||
|
|
||||||
### CogVideoX-5B
|
### CogVideoX-5B
|
||||||
|
@ -93,6 +93,9 @@ pip install -r requirements.txt
|
|||||||
|
|
||||||
查看[diffusers_demo](inference/cli_demo.py):包含对推理代码更详细的解释,包括各种关键的参数。
|
查看[diffusers_demo](inference/cli_demo.py):包含对推理代码更详细的解释,包括各种关键的参数。
|
||||||
|
|
||||||
|
关于量化推理的更多细节,请查看[diffusers-torchao](https://github.com/sayakpaul/diffusers-torchao/)
|
||||||
|
。这里发布了一份完整的内存和时间基准测试列表,涵盖了A100和H100上的各种设置。
|
||||||
|
|
||||||
## 视频作品
|
## 视频作品
|
||||||
|
|
||||||
### CogVideoX-5B
|
### CogVideoX-5B
|
||||||
|
Loading…
x
Reference in New Issue
Block a user