
natural_language_autoencoders
kitft
暂无描述
AI 简介
这是一个用于构建自然语言自动编码器(NLA)的开源训练框架,旨在将大语言模型内部残差流激活向量双向映射为可解释的自然语言描述:AV模型将向量编码为文本解释,AR模型将文本重建为方向一致的向量。项目采用SFT与GRPO强化学习联合训练,支持Qwen2.5、Gemma-3等主流基座模型的多层激活建模,输出经L2归一化后以余弦相似度衡量解释保真度。适用于LLM可解释性研究、神经元级机制分析、模型内部表征可视化等场景,尤其适合需量化评估激活语义解释质量的AI安全与对齐工作。
Python
Apache License 2.0884
Stars
119
Forks
7
Watchers
2
Issues
Star 增长
今日0
近 7 天0
近 30 天+26
综合评分49.84
默认分支main