Transformer已经彻底凉凉了!

科技   2024-09-11 08:02   北京  

今年KAN横空出世,现在已经推出2.0版本,大有一统AI+科学的趋势。Transformer要变Kansformer,mlp也要被kan架构替代。


仅仅发布4个月,就有很多CNN/GNN/Transformer/时间序列/强化学习等结合的应用,在深度学习/自然语言处理/图像处理/数学金融/生物等非常多AI+领域展示出超强的性能。


KAN能提高模型的准确性和可解释性,并具有高度的灵活性和泛用性,在各个领域里都有很大的创新空间,非常好发论文!


这里分享最近4个月里最新41个KAN代表性研究和对应代码以及18个KAN的应用项目。一共59个,全部都有已经下载好的代码


59个KAN的创新研究+项目代码,无偿分享学习,欢迎扫码下载


扫码下载59个KAN创新研究+应用项目

全部论文+代码


41个KAN代表性研究和对应代码


为大家总结的41个KAN代表性研究包括:


KAN+LSTM:TKANs

TKANs结合了两种网络的优势,能够以增强的准确性和效率执行多步时间序列预测,解决传统模型在处理复杂序列模式方面的局限性。


KAN+Transformer:TKAT

TKAT通过自注意力机制,能够识别和强调时间序列中最重要的特征和模式。提高模型决策过程的透明度和可解释性。


KAN+U-NET:U-KAN

U-KAN在标记化的中间表示上整合专用的KAN层,计算成本更低,准确性更高,在医学图像分割和生成领域很有前景。


小波KAN:Wav-KAN

Wav-KAN将小波函数纳入KAN结构,能够高效捕获输入数据的高频和低频成分,从而在准确性、训练速度和鲁棒性方面相比Spl-KAN和MLPs有所提高。Wav-KAN拥有开发可解释和高性能神经网络的巨大潜力。



扫码下载59个KAN创新研究+应用项目

全部论文+代码


18个KAN的应用项目


KAN现在的应用项目非常多,在时间序列、图像任务、文本任务等多个领域里都有很大的应用潜力。


这里分享的18个KAN项目全部都有代码,直接扫码就能下载全部合集,非常方便。



扫码下载59个KAN创新研究+应用项目

全部论文+代码



深度学习与NLP
专注深度学习、NLP相关技术、资讯,追求纯粹的技术,享受学习、分享的快乐。
 最新文章