ViperEkura 598e1ce4ae refactor: 重构打包模块，新增 BFD/FFD/Greedy 三种 bin-packing 算法，默认 BFD ...

- 将 pipeline/packing.py 拆分为 packing/ 子包 (base/stream/binpack)
- 新增 BfdPacker(默认)/FfDPacker/GreedyPacker，移除 StreamingPacker
- 超长序列直接截断至 pack_size
- group_size 语义改为"每 N 个 chunk 合并为一块"，默认 1000
- 新增 AutoTokenizer.token_to_id()，修复 ChatML 中 hacky 的 nl_id 获取
- pad_value 默认改为 2(pad_token_id)，position_ids pad=0, loss_mask pad=False
- 新增 position_ids 打包后归零一致性测试
- scripts/cache_h5.py 新增 --pack-algo 参数

2026-07-03 16:17:27 +08:00

..

pre_train

feat: add sft scripts for Magicoder-Evol-Instruct-110K and alpaca-gpt4-data

2026-06-01 15:50:13 +08:00

reforce_learning

reafactor: 重构项目

2026-03-30 20:58:51 +08:00

supervised_finetuning

feat: add MetaMathQA SFT export script and fix ChatML newline encoding

2026-07-02 17:40:03 +08:00

cache_h5.py

refactor: 重构打包模块，新增 BFD/FFD/Greedy 三种 bin-packing 算法，默认 BFD

2026-07-03 16:17:27 +08:00