 ViperEkura
|
816c02dab0
|
refactor: SFT 统一 messages 格式 + ChatML 纯 jinja 渲染
|
2026-07-04 14:32:35 +08:00 |
|
|
ViperEkura
|
06735b9cb3
|
fix: 修复 nl_id + BFD 按 group_size 分批打包（存盘不拆分文件）
|
2026-07-03 17:07:26 +08:00 |
|
|
ViperEkura
|
598e1ce4ae
|
refactor: 重构打包模块，新增 BFD/FFD/Greedy 三种 bin-packing 算法，默认 BFD
- 将 pipeline/packing.py 拆分为 packing/ 子包 (base/stream/binpack)
- 新增 BfdPacker(默认)/FfDPacker/GreedyPacker，移除 StreamingPacker
- 超长序列直接截断至 pack_size
- group_size 语义改为"每 N 个 chunk 合并为一块"，默认 1000
- 新增 AutoTokenizer.token_to_id()，修复 ChatML 中 hacky 的 nl_id 获取
- pad_value 默认改为 2(pad_token_id)，position_ids pad=0, loss_mask pad=False
- 新增 position_ids 打包后归零一致性测试
- scripts/cache_h5.py 新增 --pack-algo 参数
|
2026-07-03 16:17:27 +08:00 |
|
|
ViperEkura
|
2f919e9243
|
feat: add MetaMathQA SFT export script and fix ChatML newline encoding
|
2026-07-02 17:40:03 +08:00 |
|
|
ViperEkura
|
aa2ea4f3a6
|
feat: SFT 增加 position_ids 边界处理
- SFTProcessor 输出 per-sample position_ids（torch.arange），每个样本从 0 开始
- position_ids 与 sequence/loss_mask 一同打包，边界处自然重置
- PT 路径不生成 position_ids
- 新增 TestPositionIds 测试及 SFTProcessor 相关测试
|
2026-06-04 14:19:32 +08:00 |
|
|
ViperEkura
|
e1125be3a7
|
fix: mask 全链路保持 bool dtype（创建→打包→HDF5落盘/读盘）
|
2026-05-15 17:23:51 +08:00 |
|
|
ViperEkura
|
625695fd71
|
fix: padding 默认值改为 0，避免 loss_mask 误计 padding 位置
|
2026-05-15 16:59:42 +08:00 |
|
|
ViperEkura
|
cb6bfcb976
|
refactor: 重构流水线架构，添加Pipeline抽象并拆分IOHandler
|
2026-04-23 19:45:57 +08:00 |
|
|
ViperEkura
|
a38334f4ce
|
refactor: 修改模型架构
|
2026-04-16 18:57:21 +08:00 |
|
|
ViperEkura
|
f44ad6912e
|
fix: 修复特殊token 问题
|
2026-04-02 16:16:02 +08:00 |
|
|
ViperEkura
|
e01ec081b3
|
fix: 修复打包策略问题
|
2026-03-30 21:08:22 +08:00 |
|
|
ViperEkura
|
35963bcb08
|
reafactor: 重构项目
|
2026-03-30 20:58:51 +08:00 |
|
|
ViperEkura
|
f67bad0d8b
|
perf: 优化 processors、cache、packing 模块性能并简化 README
|
2026-03-30 17:50:26 +08:00 |
|
|
ViperEkura
|
7baa3ea0c3
|
feat: 增加日志管理
|
2026-03-30 16:28:56 +08:00 |
|
|
ViperEkura
|
71887bb4bb
|
fix: 修复 pipeline 模块中的打包逻辑缺陷并完善测试覆盖
|
2026-03-30 12:22:37 +08:00 |
|
|
ViperEkura
|
909f1b400c
|
refactor: 修改项目结构
|
2026-03-21 21:25:59 +08:00 |
|