leochlon

ntkmirror

leochlon

暂无描述

AI 简介

NTK-Mirror 是一个无需LoRA、仅通过前向传播即可实现轻量微调的工具,专为Hugging Face因果语言模型设计。它在冻结的Transformer模型上学习一组稀疏的、跨解码层通道的符号化对数门控(signed log-gates),以指数缩放各层输出激活值,不修改原始权重、不引入额外参数模块。支持训练、评估与生成全流程,控制器可叠加组合,适用于低资源场景下的任务适配、多任务快速切换及模型行为调控。适合需保持基模型不变、追求极低内存开销与快速部署的推理优化或研究验证场景。

Python
MIT License
346
Stars
50
Forks
8
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+3
综合评分5.12
默认分支main