首发!基于贝叶斯优化Transformer结合支持向量机多变量时序(Bayes-Transformer-SVM)

文摘   教育   2024-11-06 22:29   广东  

读完需要

6
分钟

速读仅需 2 分钟

请尊重原创劳动成果
转载请注明本文链接
及文章作者:机器学习之心

摘要:首发!基于贝叶斯优化Transformer结合支持向量机多变量时序(Bayes-Transformer-SVM)

1

   

基本介绍

首发!基于贝叶斯优化Transformer结合支持向量机多变量时序(Bayes-Transformer-SVM)

代码解释: 优化参数为注意力机制头数节点、正则化系数、学习率!
1.程序已经调试好,无需更改代码替换数据集即可运行! ! !
2.本文程序数据格式为excel!
3.Transformer作为一种创新的神经网络结构,深受欢迎。采用Transformer编码器对光伏、负荷数据特征间的复杂关系以及时间序列中的长短期依赖关系进行挖掘,可以提高光伏功率、负荷预测的准确性。


2

   


相关运行效果

    


   

完整代码链扫描二维码:

3


   

部分源码

%%  清空环境变量warning off             % 关闭报警信息close all               % 关闭开启的图窗clear                   % 清空变量clc                     % 清空命令行
%% 导入数据result = xlsread('data.xlsx');
%% 数据分析num_samples = length(result); % 样本个数or_dim = size(result, 2); % 原始特征+输出数目kim = 2; % 延时步长(kim个历史数据作为自变量)zim = 1; % 跨zim个时间点进行预测
%%  划分训练集和测试集P_train = res(1: num_train_s, 1: f_)';T_train = res(1: num_train_s, f_ + 1: end)';M = size(P_train, 2);
P_test = res(num_train_s + 1: end, 1: f_)';T_test = res(num_train_s + 1: end, f_ + 1: end)';N = size(P_test, 2);
%% 数据归一化[P_train, ps_input] = mapminmax(P_train, 0, 1);P_test = mapminmax('apply', P_test, ps_input);
[t_train, ps_output] = mapminmax(T_train, 0, 1);t_test = mapminmax('apply', T_test, ps_output);
%% 数据平铺% 将数据平铺成1维数据只是一种处理方式% 也可以平铺成2维数据,以及3维数据,需要修改对应模型结构% 但是应该始终和输入层数据结构保持一致P_train = double(reshape(P_train, f_, 1, 1, M));P_test = double(reshape(P_test , f_, 1, 1, N));
t_train = t_train';t_test = t_test' ;
%% 数据格式转换for i = 1 : M p_train{i, 1} = P_train(:, :, 1, i);end
for i = 1 : N p_test{i, 1} = P_test( :, :, 1, i);end
%% 创建模型%网络搭建numChannels = f_;maxPosition = 256;numHeads = 4;numKeyChannels = numHeads*32;

   

其他代码

嗯,细心的你会发现:https://mbd.pub/o/slowtrain/work

博客专家认证,机器学习领域创作者,2023博客之星TOP50,主做机器学习和深度学习时序、回归、分类、聚类和降维等程序设计和案例分析科研课题模型定制/横向项目模型仿真/职称学术论文辅导/模型程序讲解均可联系本人唯一QQ1153460737(其他均为盗版,注意甄别

技术交流群:购买博主任意代码或分享博主博文到任意三方平台后即可添加博主QQ进群

机器学习之心HML
机器学习和深度学习时序、回归、分类和聚类等程序设计与案例分析,CSDN博主机器学习之心,知乎、B站同名,由于博主公众号名称被别人占用,故加了HML,此号是官方账号,其余打着本人旗号做事本人概不负责,本人QQ1153460737。
 最新文章