ViperEkura/AstrAI
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Commit Graph

  • 36b410384b fix(data/sampler): 增加sampler边界情况处理 ViperEkura 2025-11-27 19:32:40 +08:00
  • 09963a3beb refactor(data): 重构数据模块结构并优化可恢复采样器实现 ViperEkura 2025-11-27 18:16:35 +08:00
  • 5daf63a7a4 fix(model): 修复加载状态字典时的键存在性检查 ViperEkura 2025-11-25 21:03:10 +08:00
  • fb85aaf6a6 fix(parallel): 修改列并行线性层结果聚合方式 ViperEkura 2025-11-21 13:37:08 +08:00
  • 6fb6a15e81 feat(model): 添加并行线性层模型支持 ViperEkura 2025-11-21 12:54:59 +08:00
  • d9ff662e3a fix(model): 调整 KV Cache 的维度顺序以匹配新的索引逻辑 ViperEkura 2025-11-19 18:26:15 +08:00
  • e12ed0a72b fix(khaosz): 为其他模组添加init文件 ViperEkura 2025-11-19 18:25:51 +08:00
  • 3bf2468905 fix(tools): 修正训练脚本中的嵌入层参数分组判断条件 ViperEkura 2025-11-19 17:47:33 +08:00
  • 3c7ed84516 test(test_tie_weight): 添加测试以验证权重绑定后的数据修改行为 ViperEkura 2025-11-19 17:47:22 +08:00
  • 1c3a693d79 feat(model): 优化RMSNorm实现方式 ViperEkura 2025-11-15 13:54:04 +08:00
  • e99ef9d6d8 refactor(demo): 重构示例脚本目录结构 ViperEkura 2025-11-10 21:35:04 +08:00
  • 4c289e974a refactor(tools): 将工具脚本移动到tools目录下 ViperEkura 2025-11-10 21:26:02 +08:00
  • f31bf5a959 test(transformer): 更新 tie_weight 相关测试逻辑 v1.3.1 ViperEkura 2025-11-09 17:23:33 +08:00
  • 7a21f5d72e build(setup): 更新版本号并调整 Python 版本要求 ViperEkura 2025-11-09 16:40:20 +08:00
  • 0b45e8666e fix(scripts): 修复stream_chat.py中的拼写错误 ViperEkura 2025-11-09 16:30:24 +08:00
  • 6f3386f02c fix(transformer): 优化state_dict 处理逻辑, 优化attention_mask的处理方式 ViperEkura 2025-11-09 16:25:17 +08:00
  • d25202a329 feat(model): 实现旋转位置编码缓存动态扩展 ViperEkura 2025-11-09 14:35:29 +08:00
  • 254ec934be feat(transformer): 简化权重绑定逻辑并增加测试单元 ViperEkura 2025-11-07 15:14:54 +08:00
  • 7e5ecf3b7d refactor(config): 重命名 TransformerConfig 为 ModelConfig ViperEkura 2025-11-07 07:31:12 +08:00
  • 66a551217e refactor(generator): 优化生成逻辑 ViperEkura 2025-11-07 07:24:00 +08:00
  • bdc3f4dc63 feat(module): 重构旋转位置编码实现以提升性能和可读性 ViperEkura 2025-11-06 17:52:47 +08:00
  • 805773c7fe docs(transformer): 更新process_attention_mask函数文档 ViperEkura 2025-11-05 23:41:11 +08:00
  • 7ccc4ab9ac fix(model): 修复加载状态字典时的权重共享问题 ViperEkura 2025-11-05 23:38:45 +08:00
  • 69d9374f51 feat(model): 添加 tie_weight 配置选项并优化模型模块实现 ViperEkura 2025-11-05 23:26:57 +08:00
  • b260f5581d fix(benchmark): 优化 KV 缓存初始化并更正基准测试类型标识 ViperEkura 2025-11-05 15:44:29 +08:00
  • 0a754e3341 feat(scripts): 调整文本生成参数以提升多样性 ViperEkura 2025-11-05 13:56:58 +08:00
  • 144b9598ad feat(model): 添加 Linear 和 Embedding 模块的自定义参数初始化支持 ViperEkura 2025-10-31 22:43:12 +08:00
  • 877669b799 feat(inference): 添加generate_loop方法并优化KVCacheManager初始化 ViperEkura 2025-10-31 21:15:15 +08:00
  • cdb47a62dc test: 统一重构数据集和调度器测试模块 ViperEkura 2025-10-31 20:24:01 +08:00
  • e86328b753 fix(tokenizer): 修复stop_ids属性返回错误的token ID列表 ViperEkura 2025-10-31 19:19:38 +08:00
  • 5d3799b715 refactor(data): 修改变量命名方式 ViperEkura 2025-10-30 16:32:25 +08:00
  • 6a3135f401 fix(data_util): 修复数据集索引计算逻辑并提取通用方法 ViperEkura 2025-10-29 20:58:33 +08:00
  • 12850d403c fix(config): 修改Checkpoint类中tokenizer和config字段的默认值初始化方式 ViperEkura 2025-10-29 13:24:20 +08:00
  • bad6243b53 fix(train): 更新训练函数参数传递方式 ViperEkura 2025-10-29 13:23:53 +08:00
  • f2448a5147 feat(benchmark): 优化KV缓存初始化逻辑 ViperEkura 2025-10-29 12:41:32 +08:00
  • 46b2a0f86f feat(train): 添加 max_len 和 step_size 参数支持 ViperEkura 2025-10-29 12:32:17 +08:00
  • d94fc5a87a feat(data, inference): 使用chatML格式 ViperEkura 2025-10-29 12:02:43 +08:00
  • 38b2725cd1 feat(KVCacheManager): 优化KV缓存结构为元组形式以提升性能 ViperEkura 2025-10-29 12:01:28 +08:00
  • bc5ef72001 fix(config): 修正 SGDRScheduleConfig 类名拼写错误 ViperEkura 2025-10-20 18:21:46 +08:00
  • e051005334 test(test_module): 更新测试用例以使用新的generate_iterator接口 ViperEkura 2025-10-20 13:52:31 +08:00
  • 0db046f8d9 feat(khaosz/trainer): 更新梯度裁剪回调 ViperEkura 2025-10-20 13:30:26 +08:00
  • 05b012820b refactor(khaosz): 重构模块导出结构并重命名主模块文件 ViperEkura 2025-10-20 13:07:02 +08:00
  • e72e244df6 feat(inference): 实现采样策略并优化生成器逻辑 ViperEkura 2025-10-20 13:00:41 +08:00
  • 98efca7b9d feat(trainer): 添加训练起始轮次和批次配置支持 ViperEkura 2025-10-19 21:47:10 +08:00
  • 613edd7a14 test(early_stopping, train_strategy): 更新测试配置以提高稳定性 ViperEkura 2025-10-18 22:07:11 +08:00
  • 622982364b fix(trainer): 修复检查点加载逻辑 ViperEkura 2025-10-18 21:45:23 +08:00
  • b67bc9865d refactor(trainer): 重构学习率调度器实现并分离配置与工厂逻辑 ViperEkura 2025-10-18 16:42:37 +08:00
  • c51b203fde refactor(khaosz): 重构项目结构 ViperEkura 2025-10-18 13:56:59 +08:00
  • 8434c19923 fix(khaosz/trainer): 修复数据获取中的索引范围错误和参数传递问题 ViperEkura 2025-10-09 19:53:52 +08:00
  • 68a15005cb feat(train.py): 支持从检查点恢复训练并优化数据加载配置 ViperEkura 2025-10-07 22:02:50 +08:00
  • efbe3de9d3 fix(khaosz/trainer/data_util): 修复数据集索引范围错误 v1.3.0 ViperEkura 2025-10-07 20:04:45 +08:00
  • 12793bc2d3 feat(khaosz/trainer): 新增梯度统计工具函数并重构训练回调机制 ViperEkura 2025-10-07 13:03:32 +08:00
  • 0764cb8296 fix(khaosz/trainer/train_callback): 修复基类函数命名错误 ViperEkura 2025-10-07 11:43:51 +08:00
  • 57cd7b921e feat(khaosz/trainer): 改进训练循环中的损失归一化处理 ViperEkura 2025-10-06 20:17:47 +08:00
  • c1bf22b6ec refactor(khaosz/trainer): 使用 TrainContext 替代 kwargs 传递训练上下文 ViperEkura 2025-10-06 20:12:08 +08:00
  • f9b6331ad7 refactor(khaosz/core/parameter): 修改参数名称 ViperEkura 2025-10-06 20:11:46 +08:00
  • 183f481692 build(khaosz): 更新版本号至1.3.0 ViperEkura 2025-10-06 17:12:12 +08:00
  • ec0c054d26 test(early_stopping): 移除未使用的torch.utils.data导入 ViperEkura 2025-10-06 17:10:10 +08:00
  • 4ffa7454f2 feat(strategy): 支持模型输入可调用对象并优化损失计算 ViperEkura 2025-10-06 17:08:56 +08:00
  • 8c9e973179 fix(train.py): 修复数据集加载时的参数传递问题 ViperEkura 2025-10-06 16:44:02 +08:00
  • fc98d9b7e6 refactor(khaosz/trainer): 移除未使用的导入模块 ViperEkura 2025-10-04 21:45:53 +08:00
  • 9d5aa952e0 feat(tests): 重构测试环境, 便于pickle 序列化 ViperEkura 2025-10-04 21:31:39 +08:00
  • 2ccd7bd583 refactor(khaosz/trainer): 重构训练器模块结构以提升可维护性 ViperEkura 2025-10-04 21:31:15 +08:00
  • e7d29ca2d5 feat(tests): 改进测试环境配置与设备管理 ViperEkura 2025-10-04 12:12:42 +08:00
  • 465a1a9373 refactor(khaosz/tainer): 修改设备参数传递发生阶段 ViperEkura 2025-10-04 12:12:21 +08:00
  • 240ee00221 feat(khaosz/trainer): 引入 TrainContext 和 TrainContextBuilder 优化训练上下文管理 ViperEkura 2025-10-03 22:42:11 +08:00
  • 6e1a497c04 test(sampler): 删除冗余的训练恢复测试用例 ViperEkura 2025-10-03 22:18:31 +08:00
  • 85aeec9e55 test(conftest): 添加matplotlib后端设置以避免GUI问题 ViperEkura 2025-10-03 22:11:54 +08:00
  • 9a452dd34e fix(khaosz/trainer/data_util.py): 修复 RandomSampler 中迭代计数器位置错误 ViperEkura 2025-10-03 22:08:28 +08:00
  • 28b01220b6 test(trainer): 拆分测试文件 ViperEkura 2025-10-03 22:08:11 +08:00
  • 0a03a15679 test(trainer): 调整测试参数以提高训练和断言的稳定性 v1.2.2 ViperEkura 2025-10-02 14:34:02 +08:00
  • 83c08cfbb9 fix(trainer): 修复随机采样器迭代重置问题 ViperEkura 2025-10-02 14:22:38 +08:00
  • e43a5b9b66 fix(khaosz/trainer/data_util.py): 修复 build_loss_mask 函数中使用错误的输入张量 ViperEkura 2025-10-02 11:55:51 +08:00
  • cd4877e490 perf(benchmark): 添加基准性能测试 ViperEkura 2025-10-01 22:35:35 +08:00
  • 64c4d2d2e3 refactor(scripts): 重命名聊天脚本文件 ViperEkura 2025-10-01 11:57:57 +08:00
  • 753e493d6c docs(khaosz/trainer): 更新回调函数的文档字符串格式 ViperEkura 2025-09-30 20:55:24 +08:00
  • 5a356d66e1 refactor(khaosz/trainer/data_util): 重构mask函数 ViperEkura 2025-09-30 20:22:12 +08:00
  • 78e5dbb3be build(khaosz): 更新版本号至1.2.2 ViperEkura 2025-09-30 18:04:13 +08:00
  • 288e2c3da6 fix(khaosz/trainer): 调整训练循环中回调调用顺序并增强异常日志记录 ViperEkura 2025-09-30 17:57:55 +08:00
  • dd6a9e4ede fix(train.py): 修复参数传递错误 ViperEkura 2025-09-30 17:30:00 +08:00
  • 17f1a12f27 test(trainer): 增强测试用例以支持随机配置和多轮对话训练 ViperEkura 2025-09-30 16:33:37 +08:00
  • 315ce1990a feat(khaosz/trainer): 优化训练器回调机制与数据采样逻辑 ViperEkura 2025-09-30 16:33:18 +08:00
  • e0e9942e4a feat(khaosz/core/parameter): 添加采样器状态的保存与加载功能 ViperEkura 2025-09-29 19:49:35 +08:00
  • 198c1ac55c refactor(khaosz/trainer): 重构训练器模块的导入路径和文件命名 ViperEkura 2025-09-29 19:35:17 +08:00
  • e467420475 fix(khaosz/trainer): 修正训练步数计算逻辑 ViperEkura 2025-09-29 19:05:26 +08:00
  • c104a400e7 refactor(train.py): 重命名策略参数变量名 ViperEkura 2025-09-29 17:26:01 +08:00
  • 6d5176a11c feat(khaosz/trainer): 改进调度器配置验证和加载逻辑 ViperEkura 2025-09-29 17:17:45 +08:00
  • bdda1cc35a feat(khaosz/core/tokenizer): 添加 user_id 和 system_id 属性 ViperEkura 2025-09-29 13:47:37 +08:00
  • 89211c16f6 fix(khaosz/trainer): 将保存检查点逻辑移至CheckpointCallback ViperEkura 2025-09-29 13:38:46 +08:00
  • 648e4e177b feat(khaosz/trainer): 添加SchedulerCallback功能 ViperEkura 2025-09-29 13:18:44 +08:00
  • 5163d3a47a fix(callback): 解决循环导入问题 ViperEkura 2025-09-29 13:08:41 +08:00
  • b2f3fefa1b feat(callback): 为 TrainerCallback 及其子类添加文档字符串和未使用参数占位符 ViperEkura 2025-09-29 12:48:01 +08:00
  • e52803ddc3 refactor(trainer): 将回调类移至独立文件并优化训练器结构 ViperEkura 2025-09-29 12:00:25 +08:00
  • 8206c7855e fix(transformer): 调整注意力掩码处理逻辑 ViperEkura 2025-09-29 11:31:42 +08:00
  • 816bc78894 feat(trainer): 引入训练器回调机制并重构训练流程 ViperEkura 2025-09-29 11:31:31 +08:00
  • 92999fa9f6 fix(trainer): 修复训练器中配置引用错误的问题 ViperEkura 2025-09-28 22:20:25 +08:00
  • 0ebf53008e refactor(test): 更新训练配置参数名称并优化测试逻辑 ViperEkura 2025-09-28 22:14:39 +08:00
  • 1c9063fd3d refactor(trainer): 统一参数命名以提升可读性 ViperEkura 2025-09-28 22:14:24 +08:00
  • fa43ed2943 feat(trainer): 重构训练配置与策略工厂引入 ViperEkura 2025-09-28 21:39:48 +08:00
  • 2dc7b5bda8 build(.gitignore): 更新 gitignore 文件忽略规则 ViperEkura 2025-09-28 15:39:13 +08:00