长春企业自助建站,前端网页,搭建企业网站宽带多大,网站开发需要文章写的好吗1.csv数据为密西西比数据集#xff0c;获取数据集可以管我要#xff0c;数据集内容形式如下图#xff1a; 2.代码
这里参考的是b站的一位博主。
数据集导入教程在我的另一篇文章bp写过#xff0c;需要的话可以去看一下 psobp.m
close all
clc%读取数据
inputX;
outputY;…1.csv数据为密西西比数据集获取数据集可以管我要数据集内容形式如下图 2.代码
这里参考的是b站的一位博主。
数据集导入教程在我的另一篇文章bp写过需要的话可以去看一下 psobp.m
close all
clc%读取数据
inputX;
outputY;%10000行1列
%设置训练数据与测试数据
input_traininput(1:8000,:);
output_trainoutput(1:8000,:);
input_testinput(8001:10000,:);
output_testoutput(8001:10000,:);%2000列1行
%节点个数
inputnum26;%输入层节点数量
hiddennum12;%隐藏层节点数量
outputnum1;%输出层节点数量
w1numinputnum*hiddennum;%输入层到隐藏层的权值个数
w2numoutputnum*hiddennum;%输出层到隐藏层的权值个数
Nw1numhiddennumw2numoutputnum;%待优化的变量个数
%训练数据归一化
[inputn,inputps]mapminmax(input_train);
[outputn,outputps]mapminmax(output_train);
%%定义pso算法参数
E00.001;%允许误差
MaxNum10;%粒子最大迭代次数
narvsN;%目标函数的子变量个数
particlesize10;%粒子群规模
c12;%个体经验学习因子
c22;%社会经验学习因子
w0.6;%惯性因子
vmax0.8;%粒子最大飞行速度
x-510*rand(particlesize,narvs);%粒子所在位置规模是粒子群数和参数需求数设置x的取值范围[-5,5]
v2*rand(particlesize,narvs);%粒子飞行速度生成每个粒子飞行速度只有一个变量所以速度是一维的
tracezeros(N1,MaxNum);%寻优结果的初始值
objvobjfun(x,input_train,output_train,input_test,output_test);%计算目标函数值
personalbest_xx;%用于存储个体最优存储每个粒子经历的x值
personalbest_favalobjv;%存储个体最优的y每个个体的误差的群体
[globalbest_faval,i]min(personalbest_faval);
globalbest_xpersonalbest_x(i,:);%全局最优的x
k1;%开始迭代
while kMaxNumobjvobjfun(x,input_train,output_train,input_test,output_test);for i1:particlesizeif objv(i)personalbest_faval(i)personalbest_faval(i)objv(i);%将第i个粒子作为个体最优解personalbest_x(i,:)x(i,:);%更新最优解位置endend[globalbest_favalN,i]min(personalbest_faval);globalbest_xnpersonalbest_x(i,:);trace(1:N,k)globalbest_xn;%每代最优x值trace(end,k)globalbest_favalN;%%粒子更新for i1:particlesizev(i,:)w*v(i,:)c1*rand*(personalbest_x(i,:)-x(i,:))c2*rand*(globalbest_x-x(i,:));%rand会随机生成一个01的随机降低学习因子的比例for j1:narvs%确定每个变量的速度不超过最大速度if v(i,j)vmaxv(i,j)vmax;elseif v(i,j)-vmaxv(i,j)-vmax;endendx(i,:)x(i,:)v(i,:);endglobalbest_favalglobalbest_favalN;globalbest_xglobalbest_xn;kk1;
end
%%画图
figure(1);
plot(1:MaxNum,trace(end,:));
grid on;
xlabel(遗传代数);
ylabel(误差变化);
title(进化过程);objfun.m
function [obj,T_sim]objfun(X,input_train,output_train,input_test,output_test)
%%分别求解种群每个个体的目标值
%输入
%x:所有个体的初始权值与阈值
%input_train训练样本输入
%output_train训练样本输出
%hiddennum隐藏神经元个数
%input_test测试样本输入
%output_test测试样本输出
%%输出
%obj:所有个体的预测样本的预测误差的范数,让这个误差最小也就是每一个种群全都累加变成一个数这里有10个种群就是10个数
[M,N]size(X);%返回一个M行N列的矩阵
objzeros(M,1);%所有个体误差初始化为M行1列也就是前面的粒子群规模就是10行1列
T_simzeros(M,2000);%size(output_test,2)返回output_test的列数也就是2000个结果也就是预测值是10行2000列的数值
for i1:M[obj(i),T_sim(i,:)]BpFunction(X(i,:),input_train,output_train,input_test,output_test);
end
T_simT_sim;
end
BpFunction.m
%%输入
function [err,T_sim]BpFunction(x,input_train,output_train,input_test,output_test)
inputnum26;%输入层节点数量
hiddennum12;%隐藏层节点数量
outputnum1;%输出层节点数量
%%数据归一化
[inputn,inputps]mapminmax(input_train,0,1);
[outputn,outputps]mapminmax(output_train,0,1);%bp神经网络
netnewff(inputn,outputn,hiddennum);
%网络参数配置
net.trainParam.epochs30;
net.trainParam.lr0.001;
net.trainParam.goal0.0001;
w1numinputnum*hiddennum;%输入层到隐藏层的权值个数
w2numoutputnum*hiddennum;%输出层到隐藏层的权值个数
W1x(1:w1num);
B1x(w1num1:w1numhiddennum);
W2x(w1numhiddennum1:w1numhiddennumw2num);
B2x(w1numhiddennumw2num1:w1numhiddennumw2numoutputnum);
net.iw{1,1}reshape(W1,hiddennum,inputnum);
net.lw{2,1}reshape(W2,outputnum,hiddennum);
net.b{1}reshape(B1,hiddennum,1);
net.b{2}reshape(B2,outputnum,1);
%%开始训练
%网络训练
nettrain(net,inputn,outputn);
%%测试网络
t_simsim(net,input_test);
T_simmapminmax(reverse,t_sim,outputps);
errnorm(T_sim-output_test);
end
3.结果 4.优化之前 5.之所以上面有拟合差别大的地方在于bp网络自动将数据集中某一列全是一个数的给消去了不知是系统消去的还是神经网络给消掉的。所以他会报错
net.IW{1,1} must be a 12-by-8 matrix.报这个错误的解决办法我是将某一列中第一行数据加个0.1。虽然是个解决办法但是会影响到识别精度。所以不是个好办法。 1.1粒子群算法基础
Pso算法是从随机解出发通过迭代寻找最优解通过适应度来评价解的品质但是它比遗传算法规则更为简单它没有遗传算法的“交叉”和“变异”操作它是通过追随当前搜索到的最优值来寻找全局最优。
1.2基本原理
Pso算法起源对简单社会的模拟具有很好的生物社会背景。Pso中每个优化问题的潜在解都是搜索空间的一只鸟称之为粒子。所有的粒子都有一个由被优化的函数决定的适应值每个粒子还有一个速度决定他们”飞行“的方向和距离。然后粒子就追随当前的最优粒子在解空间中搜索。设想这样一个场景鸟群在森林中随机搜索食物它们想要找到食物量最多的位置。但是所有的鸟都不知道食物具体在哪个位置只能感受到食物大概在哪个方向。每只鸟沿着自己判定的方向进行搜索并在搜索的过程中记录自己曾经找到过食物且量最多的位置同时所有的鸟都共享自己每一次发现食物的位置以及食物的量这样鸟群就知道当前在哪个位置食物的量最多。在搜索的过程中每只鸟都会根据自己记忆中食物量最多的位置和当前鸟群记录的食物量最多的位置调整自己接下来搜索的方向。鸟群经过一段时间的搜索后就可以找到森林中哪个位置的食物量最多全局最优解。
1PSO的基础信息的社会共享
2粒子的两个属性速度和位置算法的两个核心要素
速度表示粒子下一步迭代时移动的方向和距离位置是所求解问题的一个解。
算法的6个重要参数
假设在D维搜索空间中有N个粒子每个粒子代表一个解则
① 第i个粒子的位置为 ② 第 i个粒子的速度粒子移动的距离和方向为 ③ 第 i个粒子搜索到的最优位置个体最优解为 ④ 群体搜索到的最优位置群体最优解为 ⑤ 第 i个粒子搜索到的最优位置的适应值优化目标函数的值为 ——个体历史最优适应值
⑥ 群体搜索到的最优位置的适应值为
——群体历史最优适应值
1.3粒子群算法的流程图 1.4粒子群算法的伪代码 1.5速度更新公式
表述上叫速度实际上就是粒子下一步迭代移动的距离和方向也就是一个位置向量。 1速度更新公式的解释
① 第一项惯性部分
由惯性权重和粒子自身速度构成表示粒子对先前自身运动状态的信任。
② 第二项认知部分
表示粒子本身的思考即粒子自己经验的部分可理解为粒子当前位置与自身历史最优位置之间的距离和方向。
③ 第三项社会部分
表示粒子之间的信息共享与合作即来源于群体中其他优秀粒子的经验可理解为粒子当前位置与群体历史最优位置之间的距离和方向。
2速度更新公式的参数定义 3速度的方向
粒子下一步迭代的移动方向 惯性方向 个体最优方向 群体最优方向 1.6、位置更新公式
上一步的位置 下一步的速度 1.7算法参数的详细解释
粒子群规模 N
一个正整数推荐取值范围[20,1000]简单问题一般取20~40较难或特定类别的问题可以取100~200。较小的种群规模容易陷入局部最优较大的种群规模可以提高收敛性更快找到全局最优解但是相应地每次迭代的计算量也会增大当种群规模增大至一定水平时再增大将不再有显著的作用。
2粒子维度 D
粒子搜索的空间维数即为自变量的个数。
3迭代次数 K
推荐取值范围[50,100]典型取值60、70、100这需要在优化的过程中根据实际情况进行调整迭代次数太小的话解不稳定太大的话非常耗时没有必要。
4惯性权重w
1998年Yuhui Shi和Russell Eberhart对基本粒子群算法引入了惯性权重(inertia weight)w并提出动态调整惯性权重以平衡收敛的全局性和收敛速度该算法被称为标准PSO算法。
参数意义
惯性权重w表示上一代粒子的速度对当代粒子的速度的影响或者说粒子对当前自身运动状态的信任程度粒子依据自身的速度进行惯性运动。惯性权重使粒子保持运动的惯性和搜索扩展空间的趋势。w值越大探索新区域的能力越强全局寻优能力越强但是局部寻优能力越弱。反之全局寻优能力越弱局部寻优能力强。较大的w有利于全局搜索跳出局部极值不至于陷入局部最优而较小的w有利于局部搜索让算法快速收敛到最优解。当问题空间较大时为了在搜索速度和搜索精度之间达到平衡通常做法是使算法在前期有较高的全局搜索能力以得到合适的种子而在后期有较高的局部搜索能力以提高收敛精度所以w不宜为一个固定的常数[3]。
当w1时退化成基本粒子群算法当 w0 时失去对粒子本身经验的思考。推荐取值范围[0.4,2]典型取值0.9、1.2、1.5、1.8
改善惯性权重w
在解决实际优化问题时往往希望先采用全局搜索使搜索空间快速收敛于某一区域然后采用局部精细搜索以获得高精度的解。因此提出了自适应调整的策略即随着迭代的进行线性地减小w的值。这里提供一个简单常用的方法——线性变化策略随着迭代次数的增加惯性权重w不断减小从而使得粒子群算法在初期具有较强的全局收敛能力在后期具有较强的局部收敛能力。 5学习因子 c1,c2
也称为加速系数或加速因子这两个称呼更加形象地表达了这两个系数的作用
c1 表示粒子下一步动作来源于自身经验部分所占的权重将粒子推向个体最优位置 的加速权重
c2表示粒子下一步动作来源于其它粒子经验部分所占的权重将粒子推向群体最优位置 的加速权重
c10无私型粒子群算法只有社会没有自我迅速丧失群体多样性易陷入局部最优而无法跳出
c20自我认知型粒子群算法只有自我没有社会完全没有信息的社会共享导致算法收敛速度缓慢
c1,c2都不为0完全型粒子群算法更容易保持收敛速度和搜索效果的均衡是较好的选择。
低的值使粒子在目标区域外徘徊而高的值导致粒子越过目标区域。 推荐取值范围[0,4]典型取值c1c22、c11.6和 c21.8 、c11.6和 c22 针对不同的问题有不同的取值一般通过在一个区间内试凑来调整这两个值。
1.8算法的一些重要概念和技巧
1适应值fitness values
即优化目标函数的值用来评价粒子位置的好坏程度决定是否更新粒子个体的历史最优位置和群体的历史最优位置保证粒子朝着最优解的方向搜索。
2位置限制
限制粒子搜索的空间即自变量的取值范围对于无约束问题此处可以省略。
3速度限制
为了平衡算法的探索能力与开发能力需要设定一个合理的速度范围限制粒子的最大速度 vmax 即粒子下一步迭代可以移动的最大距离。
1.9代码
clcclearclose allE0.000001;maxnum800;%最大迭代次数narvs2;%目标函数的自变量个数particlesize50;%粒子群规模c12;%每个粒子的个体学习因子加速度常数c22;%每个粒子的社会学习因子加速度常数w0.6;%惯性因子vmax5;%粒子的最大飞翔速度v2*rand(particlesize,narvs);%粒子飞翔速度x-300600*rand(particlesize,narvs);%粒子所在位置%定义适应度函数fitnessinline((x(1)^2x(2)^2)/10000,x);for i1:particlesizef(i)fitness(x(i,:));endpersonalbest_xx;personalbest_favalf;[globalbest_faval,i]min(personalbest_faval);globalbest_xpersonalbest_x(i,:);k1;while (kmaxnum)for i1:particlesizef(i)fitness(x(i,:));if f(i)personalbest_faval(i)personalbest_faval(i)f(i);personalbest_x(i,:)x(i,:);endend[globalbest_faval,i]min(personalbest_faval);globalbest_xpersonalbest_x(i,:);for i1:particlesizev(i,:)w*v(i,:)c1*rand*(personalbest_x(i,:)-x(i,:))...c2*rand*(globalbest_x-x(i,:));for j1:narvsif v(i,j)vmaxv(i,j)vmax;elseif v(i,j)-vmaxv(i,j)-vmax;endendx(i,:)x(i,:)v(i,:);endff(k)globalbest_faval;if globalbest_favalEbreakend% figure(1)% for i 1:particlesize% plot(x(i,1),x(i,2),*)% endkk1;endxbestglobalbest_x;figure(2)set(gcf,color,white);plot(1:length(ff),ff)
