论文正则化误差渐减在线序列ELM算法是关于正则化方面的的相关大学硕士和相关本科毕业论文以及相关正则化论文开题报告范文和职称论文写作参考文献资料下载。
摘 要：该文基于误差渐减在线序列 ELM和正则化ELM算法,借鉴正则化ELM算法中计算输出权重向量的方法,即引入正则化因子用以计算权重向量的方法以更新误差渐减在线序列算法中输出权重向量和实际输出,进而提出正则化误差渐减在线序列ELM算法,数值实验表明该算法的优势在学习速度、算法稳定性以及泛化性能方面均有所体现.
关键词：在线序列；误差渐减；正则化
中图分类号：TP311 文献标识码：A 文章编号：1009-3044（2018）11-0273-03
为克服单隐层前向网（SLFN）的学习缺陷,黄广斌于2004年而提出ELM算法[1].有别于传统算法,ELM算法随机为隐层设定参数,且用最小范数最小二乘法计算算法的输出权重向量.基于ELM算法优势,即学习速度快,泛化能力好,使其得到进一步推广[2-5].同时,为克服其学习模式的弊端,梁提出在线序列ELM算法（OS-ELM）[6].由于正则化ELM算法引入正则化因子计算输出权重向量,不仅降低算法复杂度而且提高了算法泛化性能和稳定性,故将其引入OS-ELM系列算法中.
1 预备知识
1.1 正则化ELM算法
正则化ELM算法主体思想如下：
一般而言,所学习的训练样本集
[xi,tiNi等于1,xi∈Rd,ti∈-1,1]
包含的输入数据集是可非线性划分的,故通过非线性映射[Φ：xi→Φ（xi）]把样本集中的输入数据集[xi]投射到特征空间[Ζ]中.用[2ω]表示两类数据的间距,并求误差最小时两类数据集间距的最大值,即
[minω,b,ξ：LPSVM等于12ω2+Ci等于1Nξi] （1.1）
[s,t：ti（W?Φ（xi）+b）≥1-ξi, i等于1,等,N] （1.2） [ξi≥0,i等于1,等,N] （1.3）
其中C是需人工设定的正则化因子,用于平衡两类数据集间距和误差.由文献[7]中相关KKT理论知识可知,上述优化问题可转化为如下对偶优化问题.
[minω,b,ξ：LPSVM等于12i等于1Nj等于1NtitjαiαjΦ（xi）Φ（xj）-i等于1Nαi] （1.4） [s.t：i等于1Ntiαi等于0] （1.5）
[0≤αi≤C,i等于1,等,N ] （1.6）
当有新训练样本输入数据[x]添加到网络进行学习时,SVM最终的决策函数可表示为：
[f（x）等于sign（s等于1NSαstsK（x,xs）+b）] （1.7）
其中[NS]表示支持向量[Xs]的数量.
ELM不仅能逼近任意连续的目标函数而且ELM分类器的实际输出能以最小误差接近对应区域的类标签,將上述思想应用于ELM算法,可表述为：
[minβ,ξ：LSVM等于12β2+C12i等于1Nξ2i] （1.8）
[s,t：h（xi）β等于ti-ξi, i等于1,等,N] （1.9）
由KKT理论知识,可将上述问题等价转化为：
[LDELM等于12β2+C12i等于1Nξ2i-i等于1Nαi（h（xi）β-ti+ξi）] （1.10）
其中参数C表示训练样本集中输入数据对应的拉格朗日乘子向量,上述问题的最优解可从符合下述条件的解中遴选.
其中[α等于α1,等,αNT].
就多元分类问题而言,仅需将每个训练集的输出数据转化为n维向量,如果原始训练样本的输出类标签为p,则期望输出为：[0,等,0,1p,0,等,0T].所以[ti等于ti,1,等,ti,n]中仅第p个元素是1,其余元素均为0,由此上述多元分类问题可描述为：
[minβ,ξ：LPELM等于12β2+C12i等于1Nξi2] （1.14）
[s,t：h（xi）β等于tTi-ξTi, i等于1,等,N] （1.15）
其中[ξi等于ξi,1,等,ξi,nT]表示第n个期望输出关于训练样本输入数据[xi]的误差向量.由KKT理论可知上述问题的解等价于解决下述对偶问题：
[LDELM等于12β2+C12i等于1Nξi2-i等于1Nαi,j（h（xi）βj-ti,j+ξi,j） ]
（1.16）
其中[βj]为连接输出层第j个隐单元与隐层的权重向量. 故寻求上述问题的最优解可从符合以下条件的解中筛选：
其中[αi等于αi,1,等,αi,nT],[α等于α1,等,αNT].
把（1.17）式和（1.18）式代入（1.19）式,整理可得
[][（IC+HHT）α等于T] （1.20）
其中[T等于tT1...?TTN].
结合（1.17）式和（1.20）式可得
[β等于HT（IC+HHT）-1T] （1.21）
则ELM分类器的输出函数为：
[f（x）等于h（x）β等于h（x）HT（IC+HHT）-1T] （1.22）
其中C为正则化因子,数值实验结果表明,将正则化因子引入算法后,泛化性能和稳定性均有所提高.
2 正则化误差渐减在线序列ELM算法
一方面,随机从所给训练样本集
总结:此文是一篇正则化论文范文,为你的毕业论文写作提供有价值的参考。
参考文献：
1、 5氨基寡糖素水剂减化药对番茄叶霉病抗病增效作用 摘要 通过在海南省澄迈县番茄上开展试验，研究5%氨基寡糖素水剂减化药对番茄叶霉病抗病增效作用。结果表明，5%氨基寡糖素水剂1 000倍液对番茄叶。
2、 Redis在高速缓存系统中序列化算法 摘 要： Redis是一个key?value存储系统，通过对Redis高速缓存系统的序列化算法优化，可提高缓存读取的效率和存储容量。引入现代统计。
3、 序列化构建综合实践活动常态实施理性突围 [摘要]内容的序列化构建使学生原本无序的活动有了方向的引领，促使目标层层递进。当然内容序列化构建的主体仍然是学生。教师可以根据学校和学生的具体情。
4、 体积管在线检定容积式流量计时误差分析 摘要：体积管是高精度校验流量计计量精度的计量基准器具，文中简单介绍了体积管在线检定流量计的工作原理，通过流量计系数公式分析及流量计检定工况和实。
5、 灌浆压力测量误差正交试验分析 摘 要：灌浆规范中的灌浆压力是作用在灌浆岩体上的孔内灌浆压力。由于工艺的约束，现行灌浆监控过程常用孔口压力表示孔内灌浆压力，造成了灌浆压力的测量。
6、 财政日子渐紧刀刃支出不减等4则 财政日子渐紧“刀刃”支出不减财政部近日发布数据显示，一季度全国财政收入35026亿元，同比增长9 3%，增幅逐月回落。在财政收支矛盾突出的情。