AstrAI/astrai/model
ViperEkura 39985840c7 refactor : neftune_alpha 在 Embedding 构造时传入,由模型配置链路负责
- BaseModelConfig 添加 neftune_alpha 字段 (默认 0.0)
- Embedding.__init__ 接受 neftune_alpha 参数,不再外部 set
- AutoRegressiveLM / EmbeddingEncoder 从 config 传入 neftune_alpha
- train.py 将 CLI 参数注入 config 后再创建模型
- TrainContextBuilder 移除 neftune 设置(不再是其职责)
2026-06-19 14:23:27 +08:00
..
components refactor : neftune_alpha 在 Embedding 构造时传入,由模型配置链路负责 2026-06-19 14:23:27 +08:00
__init__.py feat: 新增LoRA微调模块 2026-05-25 20:15:31 +08:00
automodel.py refactor : 移除 -> None 返回值标注,拆分 FSDP 参数,新增 mmap 数据集存储 2026-05-28 13:57:06 +08:00
encoder.py refactor : neftune_alpha 在 Embedding 构造时传入,由模型配置链路负责 2026-06-19 14:23:27 +08:00
transformer.py refactor : neftune_alpha 在 Embedding 构造时传入,由模型配置链路负责 2026-06-19 14:23:27 +08:00