- --schedule_type 可选 cosine/sgdr/wsd,默认 cosine - --min_rate 统一控制最小 LR 比率 - --cycle_length / --t_mult 用于 sgdr - --stable_steps / --decay_steps 用于 wsd,自动计算默认值 |
||
|---|---|---|
| .. | ||
| benchmark.py | ||
| generate.py | ||
| preprocess.py | ||
| server.py | ||
| train.py | ||
- --schedule_type 可选 cosine/sgdr/wsd,默认 cosine - --min_rate 统一控制最小 LR 比率 - --cycle_length / --t_mult 用于 sgdr - --stable_steps / --decay_steps 用于 wsd,自动计算默认值 |
||
|---|---|---|
| .. | ||
| benchmark.py | ||
| generate.py | ||
| preprocess.py | ||
| server.py | ||
| train.py | ||