
efficient-kan
Blealtan
An efficient pure-PyTorch implementation of Kolmogorov-Arnold Network (KAN).
AI 简介
这是一个高效纯PyTorch实现的Kolmogorov-Arnold网络(KAN),旨在替代传统MLP,通过B样条基函数实现可学习的、逐维解耦的激活映射。项目核心优化在于重构计算流程:避免原始实现中高维张量展开,将激活函数计算转化为基函数预激活+线性组合,显著降低内存开销并支持标准矩阵乘法前向/反向传播;同时采用权重L1正则替代样本级L1以兼顾稀疏性与效率,并提供可选的独立样条缩放参数。适用于需要强可解释性、低参数量建模及函数逼近任务的场景,如科学计算代理模型、小样本回归与可解释AI研究。
Python
MIT License4.7k
Stars
417
Forks
38
Watchers
34
Issues
Star 增长
今日0
近 7 天0
近 30 天+5
综合评分29.86
默认分支master