AstrAI

Files

T

ViperEkura 38e18fdfd3 refactor: PagedCache Facade 模式，提取 PagePool/PrefixCache/TaskTable

- cache.py: 提取 PagePool (位图+LRU)、PrefixCache (前缀哈希)、TaskTable (任务页表)
  PagedCache 降为 Facade 组合三者 + 张量存储，公开 API 不变
- executor.py: 移除 allocate_pages_for_activation/free_task_pages/get_cached_tokens
  三冗余委托方法，去掉 page_size 构造参数(改用 page_cache.page_size)
- scheduler.py: 直接调用 self._page_cache.* 代替已移除的 Executor 委托
- 移除 CacheView.__slots__、PagePool.ref_count、PagedCache.alloc/pages_needed/inc_ref
  PrefixCache.evict 等死/冗余方法

2026-05-11 15:22:21 +08:00

config

refactor: 移除 device_ids 参数设计，统一通过 CUDA_VISIBLE_DEVICES 控制 GPU 分配；更新 README 训练示例

2026-05-09 14:55:43 +08:00

dataset

chore: 修改错误拼写

2026-04-06 10:37:19 +08:00

inference

refactor: PagedCache Facade 模式，提取 PagePool/PrefixCache/TaskTable

2026-05-11 15:22:21 +08:00

model

fix: page cache 分配失败越界崩溃 + 长度超限终止