AstrAI/astrai
ViperEkura d73f52a2f8 feat: 新增 Anthropic 兼容 /v1/messages API,移除旧版 /generate 端点
- 新增 /v1/messages 端点,兼容 Anthropic Messages API 格式
- 支持流式 SSE(message_start → content_block_delta → message_stop)
- 支持 system 顶层提示词与 stop_sequences 停止序列
- 新增 AnthropicMessage / MessagesRequest Pydantic 模型
- 移除旧版 /generate 端点及相关测试用例
- 更新 README.md / README-zh-CN.md / introduction.md 文档
2026-05-09 11:47:22 +08:00
..
config feat: 实现模型动态注册机制 2026-04-05 19:38:12 +08:00
dataset chore: 修改错误拼写 2026-04-06 10:37:19 +08:00
inference feat: 新增 Anthropic 兼容 /v1/messages API,移除旧版 /generate 端点 2026-05-09 11:47:22 +08:00
model refactor: 分页 KV cache 替换固定 slot,删除 PrefixCache 及相关死代码 2026-05-08 20:44:05 +08:00
parallel refactor: 优化参数传递,清理导入样式 2026-04-03 22:06:32 +08:00
tokenize refactor: 精简推理引擎代码,优化参数传递规范 2026-04-09 14:17:48 +08:00
trainer fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁 2026-05-08 14:53:04 +08:00
__init__.py chore: 优化未使用的模块 2026-04-06 09:54:17 +08:00
factory.py chore: 修改类名,优化导入顺序 2026-04-05 22:27:57 +08:00
serialization.py refactor: 从data 模块分离tokenizer 2026-04-04 16:12:58 +08:00