AstrAI/tests/inference
ViperEkura 9e31d4ef2b feat : BaseToolParser.feed 增加可选 token_ids 参数
- format_chunk ABC 改为 (token, **kwargs),body/token_ids 通过 kw 传入
- ProtocolHandler._handle_stream 逐 token encode 并透传
- Anthropic builder 用 **kwargs 吸收不使用的参数,零变更
- 新增 3 个 token_ids 参数测试
2026-06-06 11:19:30 +08:00
..
conftest.py refactor : FastAPI 懒加载单例,消除模块级副作用 2026-06-04 15:52:27 +08:00
test_cache.py refactor: 重构 cache 和 inference 参数体系,分离存储与分配 2026-05-14 20:05:08 +08:00
test_engine.py refactor: 重构 inference 模块架构,引入设计模式并分组文件 2026-05-14 17:42:37 +08:00
test_protocol.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00
test_sample.py fix: 修复推理引擎 batch decode 中多项正确性与并发问题 2026-05-14 21:31:39 +08:00
test_scheduler.py test: 补充推理协议层单测覆盖 2026-05-26 00:21:52 +08:00
test_server.py refactor : FastAPI 懒加载单例,消除模块级副作用 2026-06-04 15:52:27 +08:00
test_task.py refactor: 重构 inference 模块架构,引入设计模式并分组文件 2026-05-14 17:42:37 +08:00
test_tool_parser.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00