
antidoom
Liquid4All
暂无描述
AI 简介
Antidoom 是一个专用于缓解大语言模型推理过程中重复性循环(即“doom loops”)的轻量级训练工具。它通过采样模型输出、精准定位重复起始token、构建单token级偏好对(拒绝循环起始token,偏好合理替代token),并基于Final Token Preference Optimization(FTPO)训练LoRA适配器来实现干预。项目支持CUDA与ROCm双后端,依赖vLLM高效推理和PyTorch训练,强调局部、低开销、任务聚焦的偏好微调。适用于需长期推理、易陷入自我重复的开源语言模型(如LFM系列)的稳定性增强场景,尤其适合合成数据驱动的推理优化流程。
Python
Apache License 2.0288
Stars
24
Forks
69
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天+157
综合评分51.19
默认分支main