ViperEkura 44d7a4e959 refactor: 设计模式优化 inference 模块导入结构 ... - 新建 cache.py：SlotAllocator 对象池 + PrefixCacheManager - 新建 sampling.py：Temperature/TopK/TopP 可组合策略 - TaskStatus 改用 Enum，GenerationParams 值对象模式 - _STOP 移至 cache.py，解除 engine→scheduler 轻量耦合 - 更新测试导入路径，ruff 格式检查通过		2026-05-08 16:57:57 +08:00
..
__init__.py	refactor: 设计模式优化 inference 模块导入结构	2026-05-08 16:57:57 +08:00
cache.py	refactor: 设计模式优化 inference 模块导入结构	2026-05-08 16:57:57 +08:00
engine.py	refactor: 设计模式优化 inference 模块导入结构	2026-05-08 16:57:57 +08:00
sampling.py	refactor: 设计模式优化 inference 模块导入结构	2026-05-08 16:57:57 +08:00
scheduler.py	refactor: 设计模式优化 inference 模块导入结构	2026-05-08 16:57:57 +08:00
server.py	fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁	2026-05-08 14:53:04 +08:00