AstrAI

Commit Graph

Author	SHA1	Message	Date
ViperEkura	dd1b39f435	fix: ProgressBar默认输出到stdout - file参数默认值改为None, 内部用 or sys.stdout 兜底 - 清理inference API中未使用的import (Optional, time, field) - 删除test_protocol中未使用的ctx变量	2026-05-26 13:27:05 +08:00
ViperEkura	47c37e4876	refactor: 推理协议层重构为策略/建造者模式 - ProtocolHandler 改为具体类，格式化委托给 ResponseBuilder - 新增 api/protocols/ 目录，含 OpenAIResponseBuilder、AnthropicResponseBuilder - GenContext、StopInfo 参数对象替代 StreamContext - 消除 Builder 的实例可变状态（accumulated、_yielded） - SSE 工具和停止检测收归 ProtocolHandler 统一管理 - prepare() 方法合并原来的 build_prompt、create_response_id - 参数校验去重：仅 GenerationRequest.init 负责校验 - Prefill 阶段提前短路完全命中的缓存任务	2026-05-26 00:12:57 +08:00

Author

SHA1

Message

Date

ViperEkura

dd1b39f435

fix: ProgressBar默认输出到stdout

- file参数默认值改为None, 内部用 or sys.stdout 兜底
- 清理inference API中未使用的import (Optional, time, field)
- 删除test_protocol中未使用的ctx变量

2026-05-26 13:27:05 +08:00

ViperEkura

47c37e4876

refactor: 推理协议层重构为策略/建造者模式

- ProtocolHandler 改为具体类，格式化委托给 ResponseBuilder
- 新增 api/protocols/ 目录，含 OpenAIResponseBuilder、AnthropicResponseBuilder
- GenContext、StopInfo 参数对象替代 StreamContext
- 消除 Builder 的实例可变状态（accumulated、_yielded）
- SSE 工具和停止检测收归 ProtocolHandler 统一管理
- prepare() 方法合并原来的 build_prompt、create_response_id
- 参数校验去重：仅 GenerationRequest.init 负责校验
- Prefill 阶段提前短路完全命中的缓存任务

2026-05-26 00:12:57 +08:00

2 Commits