ViperEkura a6f5ff3b37 fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁 ... - remove_task() 现在释放 KV cache slot 和 prefix cache 引用 - _refill_active_batch 中 alloc 失败时将剩余 task 推回 waiting_queue - 主循环增加 try/except 异常兜底，发送 _STOP 给所有 task - 重构：server.py 全局变量改为 ServerState 类；automodel.py 使用 Registry 替代裸 dict；合并 TrainContextBuilder 的 with_* 方法到 build()		2026-05-08 14:53:04 +08:00
..
config	feat: 实现模型动态注册机制	2026-04-05 19:38:12 +08:00
dataset	chore: 修改错误拼写	2026-04-06 10:37:19 +08:00
inference	fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁	2026-05-08 14:53:04 +08:00
model	fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁	2026-05-08 14:53:04 +08:00
parallel	refactor: 优化参数传递，清理导入样式	2026-04-03 22:06:32 +08:00
tokenize	refactor: 精简推理引擎代码，优化参数传递规范	2026-04-09 14:17:48 +08:00
trainer	fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁	2026-05-08 14:53:04 +08:00
__init__.py	chore: 优化未使用的模块	2026-04-06 09:54:17 +08:00
factory.py	chore: 修改类名，优化导入顺序	2026-04-05 22:27:57 +08:00
serialization.py	refactor: 从data 模块分离tokenizer	2026-04-04 16:12:58 +08:00