- 简化 process_attention_mask,通过广播返回 bool 掩码 - 新增 make_doc_boundary_mask 生成块对角因果掩码 - SFT strategy 传入文档边界掩码 |
||
|---|---|---|
| .. | ||
| components | ||
| __init__.py | ||
| automodel.py | ||
| encoder.py | ||
| transformer.py | ||
- 简化 process_attention_mask,通过广播返回 bool 掩码 - 新增 make_doc_boundary_mask 生成块对角因果掩码 - SFT strategy 传入文档边界掩码 |
||
|---|---|---|
| .. | ||
| components | ||
| __init__.py | ||
| automodel.py | ||
| encoder.py | ||
| transformer.py | ||