docs: AdamW beta 默认值改为 (0.9, 0.95)

- 与 Muon 优化器的 AdamW 子优化器保持一致 - 同步更新 train.py/training.md/params.md/README
2026-05-17 17:08:31 +08:00
parent 10ebd7211f
commit 7621f05d3f
5 changed files with 14 additions and 14 deletions
@@ -90,8 +90,8 @@ nohup python scripts/tools/train.py \
    --warmup_ratio=0.05 \
    --max_lr=1e-4 \
    --max_grad_norm=1.0 \
-    --adamw_beta1=0.95 \
-    --adamw_beta2=0.99 \
+    --adamw_beta1=0.9 \
+    --adamw_beta2=0.95 \
    --adamw_weight_decay=0.01 \
    --window_size=2048 \
    --ckpt_interval=10000 \