大连理工大学。
本科生考查课。
作业。目录。
1使用rbf网络对一组二维数据点进行曲线拟合1
1.1 问题描述 1
1.2 算法理论 1
1.3网络设计步骤 2
1.4 实验过程及结果(有附带gui效果展示) 4
1.5 结果分析 7
2多种群ga算法及实现(需要在matlab中装入谢菲尔德遗传工具箱) 8
2.1 问题描述 8
2.2 算法理论 8
2.3 实验过程及结果 10
2.4 结果分析 12
3基于小生境技术的pso算法 13
3.1 问题描述 13
3.2算法理论及流程 14
3.3 实验过程及结果 14
3.4实验结果分析 16
4用改进的aco 算法求解优化问题(需要外部导入城市数据) 17
4.1 问题描述 17
4.2 算法理论 17
4.3 求解步骤 20
4.4改进的aco算法进行tsp问题优化 20
4.5优化结果及相关图表 22
4.6结果分析 22
5模糊聚类算法分析(c均值模糊聚类) 23
5.1 问题描述 23
5.2模糊c均值(fcm)聚类算法分析 24
5.3实验过程及结果(有附带gui效果展示) 26
5.4 结果分析 30
参考文献 30
附录 311 rbf网络相关程序 31
2 多种群ga相关** 35
3 小生境pso相关** 38
4 改进的aco** 40
5 c均值模糊聚类gui callback函数** 44
问题。一、使用rbf网络对一组二维数据点进行曲线拟合。
1.1 问题描述。
rbf神经网络即径向基函数神经网络(radical basis function)。径向基函数神经网络是一种高效的前馈式神经网络,它具有其他前向网络所不具有的最佳逼近性能和全局最优特性,并且结构简单,训练速度快。同时,它也是一种可以广泛应用于模式识别、非线性函数逼近等领域的神经网络模型。
rbf网络能够逼近任意的非线性函数,可以处理系统内的难以解析的规律性,具有良好的泛化能力,并有很快的学习收敛速度,已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。在本问题中将用matlab中的“newrbe”函数来实现rbf网络对二维数据点的曲线拟合。
1.2 算法理论。
最基本的rbf神经网络的构成包括三层,分别为输入层、隐层(中间层)和输出层。其中输入层由一些源点(感知单元)组成,它们将网络与外部环境连接起来,仅起到数据信息的传递作用,对输入信息不进行任何变换;隐层神经元的核函数(或称作用函数)取为径向基函数,对输入信息到隐层空间之间进行非线性变换,通常具有较高的维数;输出层是线性的,为输入层的激活模式提供响应。
设隐层、输出层上的神经元数分别为,,输入模式记为,,输出记为,。本文取径向基函数为gauss函数,隐单元输出则为。
式中:为隐层第个神经元的输出值;为隐层第个神经元的中心,由隐层第个神经元对应于输入层所有神经元的中心分量构成,;为隐层第个神经元的宽度,与相对应;为欧氏范数。
输出层神经元的输入输出关系表达式是:
式中:为输出层第个神经元的输出值;为输出层第个神经元与隐层第个神经元间的权值。
rbf神经网络的参数在此主要是指网络的中心、宽度、和调节权重。
图1 rbf网络的拓朴结构。
1.3 网络设计步聚。
神经网络设计大致需要经过四个步骤:
1)网络的生成。主要是根据输入样本数据和应用要求来确定网络的结构、层数、输入层、输出层和隐层的神经元的数目、传递函数及训练算法。
2)网络的初始化。在网络生成的同时需根据不同的要求对网络各层的权值和阀值进行初始化。
3)网络的训练。根据提供的样本数据对“输入矢量——输出矢量”和训练算法对网络进行训练。
4)网络的**。根据测试样本数据对已训练好的网络进行**计算,也可对训练后的网络实际输出与**输出进行误差比较。
基于最近邻聚类的中心选取。
给定高斯函数宽度,作为所分配隐单元的初始宽度,并把其作为衡量输入数据与已存在隐单元中心距离的标准,的大小决定了网络的最终聚类数目。
设rbf网络已存在个隐单元,对于一个新的样本,如果成立,,则生成一个新的隐单元。否则,将该样本归到最小距离所属的类中,中心保持不变。
具体步骤如下:
1)选择一个适当的高斯函数宽度,定义一个矢量用于存放属于各类的输出向量之和,定义一个计数器用于统计属于各类的样本个数,其中为类别数;
2)从第一个样本开始,建立第一个聚类中心,令,。这样建立的rbf网络,只有一个隐单元,该单元的中心是,该隐单元到输出层的权为;
3)考虑第2个样本数据,求出到这个聚类中心的距离。如果,则为的最近邻聚类,且令;如果,则将作为一个新的聚类中心,并令,。在上述建立的rbf网络中再添加一个隐单元,该隐单元到输出层的权为;
4)假设我们考虑第个样本时,已存在个聚类中心,其中心分别为,则在上述建立的rbf网络中已有个隐单元。这时再分别求出到这个聚类中心的距离,。
设为这些距离中的最小距离,即为的最近邻聚类:此时,如果,则将作为一个新的聚类中心,令,,,并保持的值不变,,在上述建立的rbf网络中再添加第个隐单元,该隐单元到输出层的权矢量为;如果,作如下计算:,。
当时,,保持、的值不变。隐单元到输出层的权。
宽度的大小决定动态自适应rbf网络的复杂程度。越小,所得到的聚类数目就越多,计算量就越大,精度也越高;越大,所得到的聚类数目就越少,计算量就相对较小,从而导致精度也较低。
权值更新如下。
对所有输入样本,定义代价函数瞬时值:
其中是用于学习的训练样本数目,是误差信号,定义如下:
则。权值更新如下:
1.4 实验过程及结果。
(1)在本例中,首先调用了matlab中的rbf网络来实现对正弦函数的拟合。然后我又制作了gui界面窗口来交互输入离散点。首先在这里取了15个离散的数据点。
并且分别设散布常数为0.01,1和100,下面是对正弦函数绘出的拟合图象。
图1、散布常数为0.01时的正弦拟合图像。
图2、散布常数为1时的正弦拟合图像。
图3、散布常数为100时的正弦拟合图像。
2)在此基础上,又考虑对随机输入的比较不规则的离散点进行曲线拟合。在这里我制作了gui视图操作界面,来交互式地输入离散点。并且可以在界面上更改散布常数,在其中我又加了‘三次cubic插值’来作为曲线对比,效果如下图。
图4、交互式输入离散点,鼠标左键输入,点击右键结束。
图5、散布常数为10时的拟合效果(红色虚线为插值曲线,这里来作参照)
1.5 结果分析。
rbf网络在函数逼近能力、分类能力和学习速度等方面均优于bp网络。但是要注意散布常数的选取。通过对正弦曲线的简单拟合和在gui展示界面中对随机输入的离散点的拟合可以发现:
在散布常数选取适当时,rbf的曲线拟合效果也是十分好的,并且与简单的插值拟合比较起来曲线光滑性更好,又表现得没插值曲线那么保守。但是当散布常数太小时,由于rbf网络在函数逼近时所需的。
神经元数目会减少会出现拟合的不适应性(如图1),而且会出现类似插值曲线里面的range现象。而当散布常数选取太大时,又会出现拟合曲线过于平缓,即过适性(如图3)。故在应用rbf网络解决问题时要注意散布常数的选取,只有当选择了合适的散布常数才能得到想要的结果。
另外,由于时间比较仓促,制作的gui在取点精度达到某一阈值时系统会给出warnning,但这不影响使用,在此简要说明。
问题。二、多种群ga算法及实现。
2.1 问题描述。
针对遗传算法所存在的问题,一种多种群遗传算法结构模型(multiple population ga,简称mpga)可以用来取代常规的标准计算模型(sga)。
mpga在sga的基础上主要引入了以下几个概念:
1)突破sga仅靠单个群体进行遗传进化的框架,引入多个种群同时进行优化搜索;不同的种群赋以不同的控制参数,实现不同的搜索目的。
2)各个种群之间通过移民算子进行联系,实现多种群的协同进化;最优解的获取是多个种群协同进化的综合结果。
3)通过人工选择算子保存各种群每个进化代中的最优个体,并作为判断算法收敛的依据。
2.2 算法理论。
模糊规则模糊推理作业 北航计算智能作业
要求 自己选例子建立规则,得到模糊推演结果,并结合实际例子评述模糊推理的合理性与不足之处,自己体会和见解。例子 用模糊控制实现水箱水温的恒温控制。水箱由底部的电阻性电热元件加热,由电动搅拌器实现均温。设控制的目标温度为25c,以实测温度t与目标温度r之差,即误差e t r,以及误差变化率ec为输入,...
人工智能期末作业 程序 结果
题目 小型动物分类专家系统。专业 通信与信息系统。姓名 学号 一 系统的研究背景。通过一个简单的prolog程序,实现对一个小型动物系统的识别问题,从而提供一种思维方式来简轻人们日常生活中花在分类问题中的工作量,进而达到人工智能科学可以很好的被人民的效果。二 设计思路。首先对一些常见动物的属性进行归...
云计算期末作业
软件学院大作业任务书。课程名称 云计算。题目。专业。班级。学号。学生姓名。完 数。起讫日期。任课教师职称。部分管主任。完成时间。说明。1.本任务书由任课教师填写后,下达到学生。2.任务完成后,任课教师需填写小结表。3.任务书 学生成绩与学生完成后的大作业 纸质和电子两种 一并报送各教学研究部审核后转...