ViperEkura 2b3bf442e9 feat: add SFT process_batch for parallel tokenization + short QA filter script

2026-07-29 22:01:09 +08:00

..

io

feat: 并行 batch tokenization + cache_jsonl 批处理支持

2026-07-25 12:19:45 +08:00

packing

refactor: 重构打包模块，新增 BFD/FFD/Greedy 三种 bin-packing 算法，默认 BFD

2026-07-03 16:17:27 +08:00

processors

feat: add SFT process_batch for parallel tokenization + short QA filter script

2026-07-29 22:01:09 +08:00

strategies

refactor: SFT 统一 messages 格式 + ChatML 纯 jinja 渲染

2026-07-04 14:32:35 +08:00

tokenize

feat: 并行 batch tokenization + cache_jsonl 批处理支持

2026-07-25 12:19:45 +08:00

__init__.py

refactor: 重构打包模块，新增 BFD/FFD/Greedy 三种 bin-packing 算法，默认 BFD

2026-07-03 16:17:27 +08:00

pipeline.py

refactor: 重构流水线架构，添加Pipeline抽象并拆分IOHandler

2026-04-23 19:45:57 +08:00

text.py

fix: 修复特殊token 问题

2026-04-02 16:16:02 +08:00

utils.py

fix: 修复特殊token 问题

2026-04-02 16:16:02 +08:00