AstrAI/astrai/inference/api
ViperEkura 9e31d4ef2b feat : BaseToolParser.feed 增加可选 token_ids 参数
- format_chunk ABC 改为 (token, **kwargs),body/token_ids 通过 kw 传入
- ProtocolHandler._handle_stream 逐 token encode 并透传
- Anthropic builder 用 **kwargs 吸收不使用的参数,零变更
- 新增 3 个 token_ids 参数测试
2026-06-06 11:19:30 +08:00
..
__init__.py feat : 推理层增加 vLLM 风格工具调用解析 2026-06-06 08:54:10 +08:00
anthropic.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00
openai.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00
protocol.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00
server.py feat : 推理层增加 vLLM 风格工具调用解析 2026-06-06 08:54:10 +08:00
tool_parser.py feat : BaseToolParser.feed 增加可选 token_ids 参数 2026-06-06 11:19:30 +08:00