Blealtan

efficient-kan

Blealtan

An efficient pure-PyTorch implementation of Kolmogorov-Arnold Network (KAN).

AI 简介

这是一个高效纯PyTorch实现的Kolmogorov-Arnold网络(KAN),旨在替代传统MLP,通过B样条基函数实现可学习的、逐维解耦的激活映射。项目核心优化在于重构计算流程:避免原始实现中高维张量展开,将激活函数计算转化为基函数预激活+线性组合,显著降低内存开销并支持标准矩阵乘法前向/反向传播;同时采用权重L1正则替代样本级L1以兼顾稀疏性与效率,并提供可选的独立样条缩放参数。适用于需要强可解释性、低参数量建模及函数逼近任务的场景,如科学计算代理模型、小样本回归与可解释AI研究。

Python
MIT License
4.7k
Stars
417
Forks
38
Watchers
34
Issues

Star 增长

今日0
近 7 天0
近 30 天+5
综合评分29.86
默认分支master