ViperEkura/AstrAI
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Commit Graph

  • 9e31d4ef2b feat : BaseToolParser.feed 增加可选 token_ids 参数 ViperEkura 2026-06-06 11:19:02 +08:00
  • 52aa4d01d5 feat : 推理层增加 vLLM 风格工具调用解析 ViperEkura 2026-06-06 08:52:30 +08:00
  • 986be957ec refactor : on_batch_begin 移入 accumulate 上下文 ViperEkura 2026-06-06 01:19:21 +08:00
  • cf9c60841b docs : 按代码反向修正所有文档错误 ViperEkura 2026-06-06 01:06:15 +08:00
  • 31bc7f5c2a refactor : pipeline 策略化拆分，消除 _flush if/else ViperEkura 2026-06-06 00:45:33 +08:00
  • 3057741de9 refactor : 合并 data config docstring 并实现 BFD 打包策略 ViperEkura 2026-06-05 17:41:51 +08:00
  • acd1103bd0 fix : 使用 bool 注意力掩码并支持打包 SFT 文档边界阻断 ViperEkura 2026-06-05 17:02:00 +08:00
  • dc7d2cfbca refactor : FastAPI 懒加载单例，消除模块级副作用 ViperEkura 2026-06-04 15:52:01 +08:00
  • b36a78c612 test : SFT 测试数据补全 position_ids 字段 ViperEkura 2026-06-04 14:01:04 +08:00
  • 985d940db6 feat : 数据流水拼接策略支持 position_ids 预计算 ViperEkura 2026-06-04 13:56:19 +08:00
  • 5e73ca20aa feat : train CLI 新增 val_split/val_step/metrics/log 参数 ViperEkura 2026-06-03 14:30:26 +08:00
  • 438dc10391 fix : MMLU eval 使用 chat template 格式匹配 SFT 训练数据 ViperEkura 2026-06-03 11:59:42 +08:00
  • 615ba5d8ef feat : 新增 HumanEval pass@k 代码生成评测 ViperEkura 2026-06-03 10:52:32 +08:00
  • 02a7cb9fa0 feat : preprocessing 支持 DPO/GRPO 多输出格式 ViperEkura 2026-06-03 10:18:43 +08:00
  • 9fe2121743 feat : TrainConfig 支持 val_split 从训练集自动切分验证集 ViperEkura 2026-06-02 20:33:07 +08:00
  • 0422d6d38e refactor : 移除 LocalStrategy._clear_env 冗余清理 ViperEkura 2026-06-02 11:38:53 +08:00
  • 9b416c1bbb refactor : 并行启动 Strategy 模式重构，local_rank 解耦 ViperEkura 2026-06-02 11:22:24 +08:00
  • d6899100ac Merge pull request #17 from yegroup001/main ViperEkura 2026-06-02 10:29:07 +08:00
  • 0deee48602 feat : 训练脚本新增 gradient_checkpointing 与多机 DDP 参数 yegroup001 2026-06-02 01:01:00 +08:00
  • 746a1475b2 fix : 修复存储层 rglob 死锁、DDP LOCAL_RANK 绑定 yegroup001 2026-06-02 01:01:00 +08:00
  • 01ce1fb9e3 refactor : Pipeline 去除去重，ids 重命名为 sequence，泛型透传 ViperEkura 2026-05-31 15:14:27 +08:00
  • 14f83cbdac perf : 预编译 Jinja2 Template，避免每次 render 重新构建 ViperEkura 2026-05-31 14:50:16 +08:00
  • dbe5891201 refactor : 统一 SectionedMaskBuilder，支持可配置 dtype ViperEkura 2026-05-31 14:16:40 +08:00
  • 2a65c3314c fix : 修复 created 时间戳、bin 多 shard 覆盖与文档遗漏 ViperEkura 2026-05-30 22:56:29 +08:00
  • 1c2ff05a6d docs : 三轮深度验证修复文档与代码不一致 ViperEkura 2026-05-30 21:40:25 +08:00
  • 31ae2deeba refactor : BaseConfig 提供 from_json/to_json，嵌套 config 自动反序列化 ViperEkura 2026-05-30 21:02:16 +08:00
  • 69207e2c57 refactor : 基于声明式 JSON 配置的预处理管线重构 ViperEkura 2026-05-30 20:44:25 +08:00
  • 138c5bcc08 feat : 添加 JSONL 预处理管线 ViperEkura 2026-05-30 17:04:17 +08:00
  • a923e0a23a fix : 修复 MMLU 评测脚本数据源和依赖 ViperEkura 2026-05-30 16:51:24 +08:00
  • f521a30b22 fix : FSDP 优化器顺序、温度除零、调度器静默死亡、ref模型设备 ViperEkura 2026-05-29 21:57:44 +08:00
  • d4451f6afb fix : 并行训练 state_dict 收集与训练/推理并发缺陷 ViperEkura 2026-05-29 21:12:24 +08:00
  • a3275423a4 release : v1.3.7 v1.3.7 ViperEkura 2026-05-29 17:42:38 +08:00
  • b37c3d000c docs : 同步文档与实际代码 ViperEkura 2026-05-28 21:01:14 +08:00
  • 6031020e37 feat : load_json/load_safetensors 支持 broadcast，跨节点分布式加载 ViperEkura 2026-05-28 20:44:58 +08:00
  • c424dfc293 feat : checkpoint 支持保存 config.json ViperEkura 2026-05-28 20:17:49 +08:00
  • 3a28e52e98 fix : start_epoch/start_batch 由用户参数决定，不再被 checkpoint 覆盖 ViperEkura 2026-05-28 18:24:22 +08:00
  • e371908b54 fix : 保存 checkpoint 时 unwrap DDP/FSDP 避免 module. 前缀 ViperEkura 2026-05-28 18:10:04 +08:00
  • 7c99da155c refactor: 删除数据流中的 JSONStore ViperEkura 2026-05-28 15:53:52 +08:00
  • 629e72385b fix : 修复存储层 bug，JSON 切换为 JSONL，补齐测试覆盖 ViperEkura 2026-05-28 15:29:46 +08:00
  • 0a708fff24 docs : 更新架构文档与 storage 注释，同步 Store 重构 ViperEkura 2026-05-28 14:36:18 +08:00
  • 6e150ea6d0 refactor : Storage 层重构为 Store，移除 Fetcher 中间层，支持多段数据与显式长度 ViperEkura 2026-05-28 14:20:30 +08:00
  • cb8dcb97ea refactor : 移除 -> None 返回值标注，拆分 FSDP 参数，新增 mmap 数据集存储 ViperEkura 2026-05-28 13:57:06 +08:00
  • 2d5dc93b3d fix : 修正类型标注与统一 CLI 参数命名 ViperEkura 2026-05-27 20:48:53 +08:00
  • 4145d35e3c refactor: 检查点加载重构，路径替代对象传递 ViperEkura 2026-05-27 20:06:44 +08:00
  • 34c6c45bd6 feat: 初步实现 MMLU 评测脚本 ViperEkura 2026-05-26 20:19:11 +08:00
  • e9def84ce7 fix : perplexity.py left padding 导致 batch>1 时 PPL 计算错误 ViperEkura 2026-05-26 19:59:22 +08:00
  • 836e02a166 docs: 同步 architecture/inference/training 文档至实际代码，CLI 补充 fsdp 选项 ViperEkura 2026-05-26 19:36:39 +08:00
  • b558e61f63 refactor: 简化 _disable_random_init，scheduler 移入同步块 ViperEkura 2026-05-26 17:05:25 +08:00
  • 65ab69543b refactor: 统一序列化层，消除分散的 I/O 路径 ViperEkura 2026-05-26 16:29:22 +08:00
  • 1d26aa2e93 fix: 禁用DDP static_graph避免PyTorch 2.7.1下no_sync与backward冲突 ViperEkura 2026-05-26 15:08:01 +08:00
  • a548d4553e fix: 断点续训恢复优化器/调度器状态及采样器剩余长度 ViperEkura 2026-05-26 13:50:25 +08:00
  • dd1b39f435 fix: ProgressBar默认输出到stdout ViperEkura 2026-05-26 13:27:05 +08:00
  • 94d6e713e9 test: 补充推理协议层单测覆盖 ViperEkura 2026-05-26 00:21:18 +08:00
  • 47c37e4876 refactor: 推理协议层重构为策略/建造者模式 ViperEkura 2026-05-26 00:07:12 +08:00
  • 737585a32a feat: 新增NTK-Aware RoPE缩放支持 ViperEkura 2026-05-25 21:20:10 +08:00
  • a4688021bf feat: 新增LoRA微调模块 ViperEkura 2026-05-25 20:11:25 +08:00
  • 7df6eb9211 feat: 新增FSDP并行后端 ViperEkura 2026-05-25 19:43:14 +08:00
  • 82a3f2626f docs: 更新文档与代码同步（Executor/训练循环/参数） ViperEkura 2026-05-24 22:17:49 +08:00
  • 7fa69572c0 fix: 测试日志写入临时目录避免冗余文件 ViperEkura 2026-05-24 20:54:59 +08:00
  • 3ab4f237e5 refactor: 重构训练后端为 Executor 模式 ViperEkura 2026-05-24 20:25:58 +08:00
  • 8cbf3f36e2 feat: 新增训练后端工厂框架 ViperEkura 2026-05-24 15:13:44 +08:00
  • 0594ce1017 perf: Muon step 改用 torch._foreach_* 批处理并移除 NS 迭代的冗余 bf16 转换 ViperEkura 2026-05-23 19:50:12 +08:00
  • ff509ff39f fix: decode后task_extend失败时提前中止，scheduler崩溃时通知waiting任务 ViperEkura 2026-05-20 19:23:13 +08:00
  • 785d65436c fix: 修复 to_dict list 类型丢失与 OpenAI stop 参数失效 v1.3.6 ViperEkura 2026-05-19 21:00:40 +08:00
  • 64be81b7b3 feat: ProgressBarCallback 支持日志行输出到 stdout - serialization 和 metric_logger 的 timestamp 统一使用 ISO 8601 格式 - ProgressBarCallback 新增 log_interval/file 参数，默认输出到 sys.stdout ViperEkura 2026-05-19 19:12:38 +08:00
  • 45479b5731 feat: metric 参数通过 TrainConfig 传递 ViperEkura 2026-05-19 17:47:06 +08:00
  • e0a3337c22 docs: 更新视频链接 ViperEkura 2026-05-19 17:34:01 +08:00
  • 812238060b fix: docker-compose UID/GID 添加默认值，修复 docker.sh logs 命令 ViperEkura 2026-05-18 14:24:00 +08:00
  • 14b0d56197 fix: 修复无法创建子进程的问题 - mp.start_processes daemon=False ViperEkura 2026-05-17 23:43:12 +08:00
  • 6c8533f1d2 docs: 修正文档中类名/字段名与代码不一致之处 ViperEkura 2026-05-17 20:23:12 +08:00
  • 2c2697390d feat: 新增 GradientCheckpointingCallback ViperEkura 2026-05-17 18:20:33 +08:00
  • 7621f05d3f docs: AdamW beta 默认值改为 (0.9, 0.95) ViperEkura 2026-05-17 17:07:01 +08:00
  • 10ebd7211f feat: 新增 Muon 优化器 ViperEkura 2026-05-17 16:42:58 +08:00
  • 42a391f0fb feat: 训练中新增验证循环 ViperEkura 2026-05-17 16:09:27 +08:00
  • 97c7ac0f4f refactor: Transformer更名为AutoRegressiveLM并新增EmbeddingEncoder ViperEkura 2026-05-17 15:03:50 +08:00
  • 8f1b32f2b6 fix: 移除多余 request 参数并增强 tokenizer 健壮性 ViperEkura 2026-05-17 12:51:31 +08:00
  • c241a5dcef refactor: 优化并行训练配置与启动管理 ViperEkura 2026-05-17 12:32:15 +08:00
  • 44dab27fdc feat: 数据集加载时校验必填字段 ViperEkura 2026-05-17 11:50:38 +08:00
  • a44fd22a99 fix: 修复训练与模型参数传递问题 ViperEkura 2026-05-17 11:20:13 +08:00
  • 8a11a7d444 fix: 修复训练脚本两处参数传递问题 ViperEkura 2026-05-17 11:04:40 +08:00
  • 1d54491809 refactor: 改用递归子模块 init 替代统一 normal_(0.006) ViperEkura 2026-05-17 10:44:18 +08:00
  • ad9f4d9cf6 refactor: generate_ar 改用流式输出并去除冗余注释 ViperEkura 2026-05-17 10:23:42 +08:00
  • e1638a7ade fix: 修正AdamW超参数默认值与文档示例 ViperEkura 2026-05-16 22:46:17 +08:00
  • f91bfee33e refactor: Config序列化统一BaseConfig基类 ViperEkura 2026-05-16 22:06:39 +08:00
  • d7a7f570ed refactor: 训练循环改为两重迭代并统一参数命名 ViperEkura 2026-05-16 21:27:35 +08:00
  • 7dea929788 refactor: checkpoint 按 HF 方式存独立 .pt 文件，callback 接管恢复 ViperEkura 2026-05-16 18:21:19 +08:00
  • 026d1fc33d fix: total_steps 改用 ceiling 匹配实际步数 ViperEkura 2026-05-16 17:53:18 +08:00
  • 7242eedbf4 fix: 学习率调度按 optimizer step 计数并防止 warmup 越界 ViperEkura 2026-05-16 17:07:36 +08:00
  • 04c0dc7a47 refactor: Storage 改用工厂模式，server reload 接入 uvicorn ViperEkura 2026-05-16 17:00:26 +08:00
  • 48a53121ba refactor: 工厂 kwargs 过滤及组件参数清理 ViperEkura 2026-05-16 16:47:41 +08:00
  • 0ba8c70ce1 fix: 修复 MLA 多个 bug 并缩小测试模型参数 - MLA kv_b_proj 输出维度和 q_rope 切分偏移修复 - 打通 MLA 配置从 ModelConfig 到 DecoderBlock 的传递路径 - rope_theta 配置不再被忽略，MLA 使用 qk_rope_head_dim - tie_weight 使用 is True 避免 None 隐式生效 - norm_eps/rope base 类型标注修正 - 测试模型参数缩小 (dim=8, head_dim=4) - 新增 6 种架构配置 × 2 场景的前向传播测试 ViperEkura 2026-05-16 14:56:01 +08:00
  • 3d12a03909 docs : 拆分文档并补充类图缺失类和关系线 ViperEkura 2026-05-15 23:13:03 +08:00
  • c169659611 docs: 修正 assets/docs/ 类图、数据流、参数文档及贡献指南 ViperEkura 2026-05-15 22:45:37 +08:00
  • e12f1a7ee5 feat: BaseModelConfig + DeepSeekMoE + 工厂模式替代 if/else ViperEkura 2026-05-15 20:34:52 +08:00
  • ef25efffa2 refactor: 拆分 module.py 为 components 子包 ViperEkura 2026-05-15 20:08:36 +08:00
  • 19532440b4 chore: 版本号升至 1.3.5 v1.3.5 ViperEkura 2026-05-15 18:15:59 +08:00
  • 9096e413c3 refactor: RotaryEmbedding 合并 cos/sin 为单一复数缓存 ViperEkura 2026-05-15 18:02:16 +08:00
  • 9d5e9fa6c4 perf: DDP 加 gradient_as_bucket_view/static_graph/broadcast_buffers，AdamW fused ViperEkura 2026-05-15 15:30:24 +08:00
  • 08dde46778 fix: 修复训练循环 step/backward 顺序，重构为三重循环嵌套 ViperEkura 2026-05-15 14:44:44 +08:00
  • 513f1f7826 perf: waiting_queue 改用 deque，pull_candidates 从 O(n²) 降到 O(1) ViperEkura 2026-05-14 21:38:00 +08:00