AstrAI/astrai
ViperEkura 47c37e4876 refactor: 推理协议层重构为策略/建造者模式
- ProtocolHandler 改为具体类,格式化委托给 ResponseBuilder
- 新增 api/protocols/ 目录,含 OpenAIResponseBuilder、AnthropicResponseBuilder
- GenContext、StopInfo 参数对象替代 StreamContext
- 消除 Builder 的实例可变状态(accumulated、_yielded)
- SSE 工具和停止检测收归 ProtocolHandler 统一管理
- prepare() 方法合并原来的 build_prompt、create_response_id
- 参数校验去重:仅 GenerationRequest.init 负责校验
- Prefill 阶段提前短路完全命中的缓存任务
2026-05-26 00:12:57 +08:00
..
config feat: 新增NTK-Aware RoPE缩放支持 2026-05-25 21:22:07 +08:00
dataset feat: 数据集加载时校验必填字段 2026-05-17 11:50:38 +08:00
inference refactor: 推理协议层重构为策略/建造者模式 2026-05-26 00:12:57 +08:00
model feat: 新增NTK-Aware RoPE缩放支持 2026-05-25 21:22:07 +08:00
parallel feat: 新增FSDP并行后端 2026-05-25 19:43:14 +08:00
tokenize fix: 移除多余 request 参数并增强 tokenizer 健壮性 2026-05-17 12:52:18 +08:00
trainer feat: 新增LoRA微调模块 2026-05-25 20:15:31 +08:00
__init__.py fix: 修复 to_dict list 类型丢失与 OpenAI stop 参数失效 2026-05-19 21:07:07 +08:00
factory.py refactor: 工厂 kwargs 过滤及组件参数清理 2026-05-16 16:47:41 +08:00
protocols.py refactor: 重构训练后端为 Executor 模式 2026-05-24 20:35:44 +08:00
serialization.py feat: ProgressBarCallback 支持日志行输出到 stdout 2026-05-19 19:12:38 +08:00