用途:该资料为 KAN(Kolmogorov-Arnold Networks)的学习与研究索引,面向想了解这一神经网络架构、跟踪相关论文与实现的人。
主要能力:介绍 KAN 的核心概念——把可学习激活函数放在边(权重)上,节点不设固定激活,用 B 样条作为边激活;基于 Kolmogorov-Arnold 表示定理 f(x₁,...,xₙ)=ΣΦᵢ(Σφᵢⱼ(xⱼ)),即任意多元连续函数可表示为若干一元函数与加法的复合。资料给出 KAN 与 MLP 的对照:KAN 激活在边上、权重在边上,并在示例中称在部分领域以更少参数获得更好精度与可解释性。
收录内容:KAN 原始论文(liu2024kan,arXiv:2404.19756)、pykan 官方实现示例、KAN 与 MLP 的参数与优缺点对比、变体一览(KAN 2.0/MultKAN、Temporal KAN、ConvKAN、GraphKAN、FourierKAN、WavKAN、BSRBF-KAN)及其应用方向、符号回归示例,以及研究方向和用例。
必要用法:安装 pip install pykan;用 from kan import KAN 创建模型,例如 KAN(width=[2, 5, 1], grid=5, k=3),其中 grid 为样条网格分辨率、k 为样条阶数;构造含 train_input、train_label、test_input、test_label 的 dataset 字典后调用 model.train(dataset, steps=100, lr=0.01);可用 model.plot() 可视化学到的函数,用 model.prune() 剪枝简化;符号回归示例中使用 model.auto_symbolic()。
适用场景:科学发现(从实验数据提取方程)、函数逼近(高精度少参数模型)、可解释机器学习、物理信息建模、教学演示替代网络架构。
限制:资料称 MLP 在训练速度、高维扩展性、工具与优化成熟度上更具优势;KAN 存在样条计算开销、大规模扩展与近似保证等尚未解决的问题,所列研究方向和变体仅作为方向列出,未给出具体结论或基准数据;收费、价格、平台等信息暂未提供。