5 Commits

Include renames

Author	SHA1	Message	Date
ViperEkura	877669b799	feat(inference): 添加generate_loop方法并优化KVCacheManager初始化	2025-10-31 21:15:15 +08:00
ViperEkura	d94fc5a87a	feat(data, inference): 使用chatML格式	2025-10-29 12:02:43 +08:00
ViperEkura	38b2725cd1	feat(KVCacheManager): 优化KV缓存结构为元组形式以提升性能	2025-10-29 12:01:28 +08:00
ViperEkura	e72e244df6	feat(inference): 实现采样策略并优化生成器逻辑	2025-10-20 13:00:41 +08:00
ViperEkura	c51b203fde	refactor(khaosz): 重构项目结构	2025-10-18 13:56:59 +08:00