AstrAI

Files

T

ViperEkura 7ddebf2cd9 refactor: 统一采样路径为 Strategy + batch tensor，删除 apply_sampling_strategies

- TemperatureStrategy / TopKStrategy / TopPStrategy 支持 Union[float, Tensor]
- SamplingPipeline.sample() 一条调用完成 apply + softmax + multinomial
- 新增 sample() 独立函数作为 scheduler 入口
- scheduler decode 改为 batch tensor 参数传递，支持任意 batch size
- 删除 apply_sampling_strategies（被 sample() 取代）

2026-05-08 19:07:14 +08:00

config

feat: 实现模型动态注册机制

2026-04-05 19:38:12 +08:00

dataset

chore: 修改错误拼写

2026-04-06 10:37:19 +08:00

inference

refactor: 统一采样路径为 Strategy + batch tensor，删除 apply_sampling_strategies

2026-05-08 19:07:14 +08:00

model

fix: 修复 remove_task 未释放 KV cache slot 导致第二轮对话死锁