ViperEkura 88ec63121d feat : GPT-2 residual scaling weight init ... - Linear: normal(0, init_std) replaces kaiming_uniform_(a=sqrt(5)) - o_proj / mlp.down: init_std = 0.02 / sqrt(2 * n_layers) - MoE: expert down scaled by 1/sqrt(1/n_shared + 1/K) - Embedding: normal(0, 0.02), unchanged		2026-06-25 15:08:31 +08:00
..
config	refactor : neftune_alpha 在 Embedding 构造时传入，由模型配置链路负责	2026-06-19 14:23:27 +08:00
dataset	refactor : 清理工厂和配置系统中的死代码与冗余抽象	2026-06-07 11:39:50 +08:00
inference	fix: 使用 threading.Event 替代裸 bool，补全公共 API	2026-06-18 15:38:35 +08:00
model	feat : GPT-2 residual scaling weight init	2026-06-25 15:08:31 +08:00
parallel	refactor : 移除 LocalStrategy._clear_env 冗余清理	2026-06-02 11:40:45 +08:00
preprocessing	fix: 修复预处理流水线 4 个致命问题	2026-06-18 17:38:01 +08:00
tokenize	refactor : Pipeline 去除去重，ids 重命名为 sequence，泛型透传	2026-05-31 15:14:27 +08:00
trainer	refactor : neftune_alpha 在 Embedding 构造时传入，由模型配置链路负责	2026-06-19 14:23:27 +08:00
__init__.py	fix: 使用 threading.Event 替代裸 bool，补全公共 API	2026-06-18 15:38:35 +08:00
factory.py	fix : 修复策略相关文件的类型注解与抽象方法体	2026-06-14 16:20:10 +08:00
protocols.py	refactor: 重构训练后端为 Executor 模式	2026-05-24 20:35:44 +08:00
serialization.py	fix : resume_dir 无权重文件时不强制加载，支持仅配置训练	2026-06-13 15:40:14 +08:00