Commit Graph

Select branches

Hide Pull Requests

main

v1.2.2

v1.3.0

v1.3.1

v1.3.2

v1.3.3

v1.3.4

v1.3.5

v1.3.6

Mono Color

• 951df8155c perf: gather 向量化 ViperEkura 2026-05-10 21:01:03 +0800
• a58fab8d6e fix: max_seq_len 检查改为仅 prompt 超限发 STOP，max_tokens 超出部分 clamp ViperEkura 2026-05-10 20:17:47 +0800
• a3c8296135 fix: page cache 分配失败越界崩溃 + 长度超限终止 ViperEkura 2026-05-10 20:14:38 +0800
• c95ace41aa fix: prefill 时 attention mask 长度不足导致 expand 崩溃 ViperEkura 2026-05-10 19:56:03 +0800
• 3da428e0e4 perf: PagedCache 持久前缀缓存 + LRU 逐出 ViperEkura 2026-05-10 18:05:11 +0800
• 133a9de98f feat: _generate_streaming 支持 batch 模式 ViperEkura 2026-05-10 17:37:19 +0800
• 523eacf5fe release: v1.3.4 v1.3.4 ViperEkura 2026-05-10 15:59:18 +0800
• cffedaad5e perf: 消除非流式推理 CPU 空转并减少 decode GPU 张量冗余分配 ViperEkura 2026-05-10 15:32:11 +0800
• 3583c46b66 feat: 推理引擎前缀缓存（KV cache 复用） ViperEkura 2026-05-09 23:53:23 +0800
• ca4e6b907c feat: Checkpoint 支持 extra 通用扩展数据，用户通过函数自定义保存/恢复优化器等状态 ViperEkura 2026-05-09 15:50:38 +0800
• db99d8b254 fix: 修复文档多处不准确 + inference scheduler 越界 bug + SchedulerCallback 回调阶段修正 ViperEkura 2026-05-09 15:37:14 +0800
• b98c9cefdc refactor: 移除 device_ids 参数设计，统一通过 CUDA_VISIBLE_DEVICES 控制 GPU 分配；更新 README 训练示例 ViperEkura 2026-05-09 14:55:43 +0800
• 283bcaf2ff fix: 修复 CLI 参数缺失/重复、device_ids 越界、generate 参数名不一致、scheduler 时序、非流式截断等 bug ViperEkura 2026-05-09 14:36:42 +0800
• bc7c82977e feat: GRPO CLI 接入 + on-policy，OpenAI API top_k 参数化，补充训练参数表 ViperEkura 2026-05-09 12:22:33 +0800
• 34a511e36e feat: 新增 Docker Compose 一键部署，支持 GPU/CPU 双模式 ViperEkura 2026-05-09 11:57:46 +0800
• d73f52a2f8 feat: 新增 Anthropic 兼容 /v1/messages API，移除旧版 /generate 端点 ViperEkura 2026-05-09 11:46:08 +0800
• 9d96b0431d docs: 更新文档以匹配分页 KV cache 等代码重构 ViperEkura 2026-05-08 22:41:13 +0800
• f81e2b4a73 feat: OpenAI 兼容的 chat completion API（流式+非流式+usage） ViperEkura 2026-05-08 21:45:22 +0800
• 4e324d8f26 fix: benchmark 改用 PagedCache 替代已删除的 persistent_key_values ViperEkura 2026-05-08 21:25:49 +0800
• 6ed0506491 fix: 减少调度器延迟 — 移除解码路径 5ms 睡眠，修复 refill 任务丢失 bug ViperEkura 2026-05-08 21:13:52 +0800
• 30cc2d67a4 refactor: 分页 KV cache 替换固定 slot，删除 PrefixCache 及相关死代码 ViperEkura 2026-05-08 20:44:05 +0800
• 7ddebf2cd9 refactor: 统一采样路径为 Strategy + batch tensor，删除 apply_sampling_strategies ViperEkura 2026-05-08 19:02:57 +0800
• 78dc2bd41c docs: 修正文档错误并补充训练参数说明 ViperEkura 2026-05-08 18:07:57 +0800
• 44d7a4e959 refactor: 设计模式优化 inference 模块导入结构 ViperEkura 2026-05-08 16:55:24 +0800
• c4401512f2 fix: 修复长对话截断方向错误，保留最新 token 而非最早 ViperEkura 2026-05-08 15:52:27 +0800
• a6f5ff3b37 fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁 ViperEkura 2026-05-08 14:53:04 +0800
• ffff05b2c6 refactor: 替换魔法字符串为_STOP sentinel，修复generator清理逻辑 ViperEkura 2026-05-06 20:20:33 +0800
• b89f8436ea refactor: 将KV缓存槽位映射下沉到模型注意力层，移除_remap_kv和_writeback_kv ViperEkura 2026-05-06 20:01:22 +0800
• 123f25e339 fix: 修复KV缓存槽位索引错位、版本校验缺失与注意力掩码问题，合并预填充方法 ViperEkura 2026-05-06 19:45:54 +0800
• 520de3ebe8 refactor: 重构推理引擎控制逻辑，修复连续批处理核心缺陷 ViperEkura 2026-05-06 16:04:06 +0800
• 466c34d7a8 ci: 添加 Docker 镜像自动构建工作流 v1.3.3 ViperEkura 2026-04-10 13:09:58 +0800
• 6831a15424 docs: 更新镜像构建部分说明 ViperEkura 2026-04-10 12:59:50 +0800
• 0f9e5c5049 build: 修改docker 配置 ViperEkura 2026-04-10 12:53:08 +0800
• cb0e7f2a80 build: 修改docker 构建流程 ViperEkura 2026-04-10 11:25:00 +0800
• 296db909aa docs: 更新设计文档 ViperEkura 2026-04-09 20:05:54 +0800
• a2ae742988 chore: 增加并发测试 ViperEkura 2026-04-09 18:10:28 +0800
• 29beb174a5 fix: 修复删除节点问题 ViperEkura 2026-04-09 16:58:29 +0800
• bbeaff4c60 refactor: 精简推理引擎代码，优化参数传递规范 ViperEkura 2026-04-09 14:17:48 +0800
• ab5e207f42 feat: 增加缓存处理 ViperEkura 2026-04-08 20:54:14 +0800
• b0eff02446 chore: 修改RMSNorm 实现 ViperEkura 2026-04-06 20:27:01 +0800
• 408f0cb513 docs: 更新网络接口文档 ViperEkura 2026-04-06 13:39:51 +0800
• 64b78ecce3 fix: 增加旋转位置编码扩展 ViperEkura 2026-04-06 13:29:39 +0800
• f2ffdf60d0 chore: 修改错误拼写 ViperEkura 2026-04-06 10:37:19 +0800
• ace8f6ee68 chore: 优化未使用的模块 ViperEkura 2026-04-06 09:54:17 +0800
• a57a16430d fix: 修复tokenizer存储的问题 ViperEkura 2026-04-06 09:36:29 +0800
• 3fee87897d chore: 修改拼写错误问题 ViperEkura 2026-04-06 09:28:16 +0800
• 3f67e53088 fix: 修复tokenizer 参数问题 ViperEkura 2026-04-06 09:22:46 +0800
• bf7adb35b3 docs: 更新文档 ViperEkura 2026-04-06 00:50:37 +0800
• feaa3fca36 ci: 优化 GitHub Actions 工作流 ViperEkura 2026-04-05 22:40:16 +0800
• 39766aa1dc chore: 修改类名，优化导入顺序 ViperEkura 2026-04-05 22:27:57 +0800
• 9b22b1651e refactor: 优化工具脚本接口并修复批处理问题 ViperEkura 2026-04-05 21:56:22 +0800
• e58dbd7c57 chore: 精简实现代码部分 ViperEkura 2026-04-05 21:16:38 +0800
• d2fe8afbd1 chore: 更新文档， 修正代码格式 ViperEkura 2026-04-05 20:59:52 +0800
• 23ce4bc3ae fix: 修复异常处理问题 ViperEkura 2026-04-05 20:44:35 +0800
• d2b36cc85d fix: 修复特殊token 的问题 ViperEkura 2026-04-05 20:09:47 +0800
• fc278d17ab feat: 实现模型动态注册机制 ViperEkura 2026-04-05 19:38:12 +0800
• ff43a2fab8 docs: 更新设计文档 ViperEkura 2026-04-05 00:17:35 +0800
• 2b26f03bd3 refactor: 拆分engine.py 文件 ViperEkura 2026-04-05 00:07:21 +0800
• 861d33b1a1 refactor: 更新inference 部分的实现 ViperEkura 2026-04-04 23:49:18 +0800
• 99b821ebf5 docs: 更新文档类图等 ViperEkura 2026-04-04 18:11:36 +0800
• c94a246c71 chore: 重命名目录 ViperEkura 2026-04-04 17:03:22 +0800
• 2dc9545d7f refactor: 实现 chat template 分派设置 ViperEkura 2026-04-04 16:56:31 +0800
• 9c31d78a22 chore: 将data 模块命名为dataset ViperEkura 2026-04-04 16:16:27 +0800
• bd9741dc5f refactor: 从data 模块分离tokenizer ViperEkura 2026-04-04 16:12:58 +0800
• b531232a9b style: 修改为显式导入 ViperEkura 2026-04-04 16:02:49 +0800
• 3346c75584 feat: 优化工厂模式的实现 ViperEkura 2026-04-04 15:49:46 +0800
• aa5e03d7f6 fix: 修复工厂模式问题并增加chat-template设置 ViperEkura 2026-04-04 12:05:05 +0800
• 073baf105c chore: 修复docker配置问题 ViperEkura 2026-04-04 11:35:14 +0800
• e97536758f refactor: 优化工厂模式结构 ViperEkura 2026-04-04 11:33:58 +0800
• 7861af12e4 chore: 增加docker 配置 ViperEkura 2026-04-04 10:59:32 +0800
• 7f0552013a chore: 增加提交检测脚本 ViperEkura 2026-04-04 10:43:24 +0800
• 3535de5cc4 fix: 同步device 和 dtype ViperEkura 2026-04-04 10:25:39 +0800
• 26989e54aa feat: 优化server 部分设置 ViperEkura 2026-04-04 01:41:01 +0800
• 70d52935f0 fix: 修复参数问题 ViperEkura 2026-04-03 23:34:21 +0800
• c0e0e6afd9 docs: 更新文档 ViperEkura 2026-04-03 22:11:19 +0800
• 0852b852f8 refactor: 优化参数传递，清理导入样式 ViperEkura 2026-04-03 22:06:32 +0800
• 3a7d98a950 fix: 修复测试部分导入问题 ViperEkura 2026-04-03 15:01:39 +0800
• c5560740b6 refactor: 修改分词器部分结构， 更新特殊token等 ViperEkura 2026-04-03 14:52:35 +0800
• 94c6a015c8 chore: 更新ignore ViperEkura 2026-04-03 14:31:05 +0800
• 8b6509b305 docs: 更新 design.md 项目结构和模块文档 ViperEkura 2026-04-02 20:11:19 +0800
• 912d7c7f54 chore: 更新脚本并且修改gitignore ViperEkura 2026-04-02 15:40:31 +0800
• 475de51c7d feat: 增加server, 并且修改测试单元 ViperEkura 2026-04-02 15:05:07 +0800
• 9f1561afe7 reafactor: 修改ModelParameter ViperEkura 2026-03-31 16:00:55 +0800
• 80c0b20877
  Update issue templates ViperEkura 2026-03-31 15:20:21 +0800
• e7721eafc6 docs: 更新说明内容 ViperEkura 2026-03-31 15:18:49 +0800
• 4ead0a20cf chore: 修改文件夹结构 ViperEkura 2026-03-31 10:14:08 +0800
• b1527d9575 docs: 优化文档结构并添加 GitHub 模板 ViperEkura 2026-03-31 10:00:49 +0800
• 2e009cf59a chore: 更新项目名称 ViperEkura 2026-03-31 09:34:11 +0800
• 780b9e1855 fix: 修复参数传递问题 ViperEkura 2026-03-31 01:23:29 +0800
• aef7615abd docs: 更新README ViperEkura 2026-03-31 00:50:01 +0800
• 50488bd659 chore: 简化格式并更新文档 ViperEkura 2026-03-31 00:28:58 +0800
• eb57e55fca chore: 更新计算顺序 ViperEkura 2026-03-30 23:35:22 +0800
• 426af2d75f style: 使用ruff 工具优化代码风格 ViperEkura 2026-03-30 23:32:28 +0800
• 345fd2f091 fix: 修复参数传递问题 ViperEkura 2026-03-30 22:22:36 +0800
• e1f9901384 build: 更新设置 ViperEkura 2026-03-30 21:44:50 +0800
• 0e7fc623b4 fix: 修复部分已知问题 ViperEkura 2026-03-30 21:42:00 +0800
• 3e33c14376 reafactor: 统一并增强项目中的工厂模式实现 ViperEkura 2026-03-30 01:33:14 +0800
• 60f4df95bd fix: 修复一些已知问题 ViperEkura 2026-03-30 01:08:19 +0800
• c01791ff54 feat: 增加推理部分工厂模式 ViperEkura 2026-03-30 00:55:15 +0800
• 980299cd54 fix: 修复参数传递问题 ViperEkura 2026-03-20 21:54:13 +0800