改进的RBF神经网络模式分类方法理论研究

研究了前向两层径基函数 ( RBF)网络和前向两层线性基本函数 ( LBF)网络的分类机理及其结构与初始参数优化确定方法 ,提出了 Guassian核函数的中心和宽度应通过学习自动确定 ,在学习过程中根据错分样本自身的类别和被错分入的类别自动生成新的核函数 ,并根据新增核函数对测试集的作用自动删除多余核函数的观点 ,从理论上阐明了采用 Sigmoid活化函数的两层LBF网络的分类阈值为 0 .5 ,进而提出了由两层 RBF网络和两层 LBF网络组成的前向 RBF神经网络—— IRBF神经网络     

改进的RBF神经网络模式分类方法应用研究

经典的 Bayes分类方法一般需要事先对样本的分布特性作出假设 ,当假设模型与样本实际分布情况不相符时 ,就难以得到较高的分类精度。当处理同类别多区域样本分布问题 ,例如变标签问题时 ,距离判别、Fisher判别、k-近邻分类、分段线性分类等统计分析方法遇到困难。双螺旋问题不仅使统计方法受到挑战 ,更使人们对一般前向多层神经网络的能力提出疑问。本文提出了改进的 RBF神经网络结构、核函数个数、位置与宽度优化算法。该算法的计算复杂性与一般前向三层LBF网络所用的误差反传算法大致相同。核函数生成既考虑了训练集样本自身的类别因素 ,又考虑了错分样本与邻近类别的关系。一个核函数的最终保留与否根据其对提高测试集分类正确率的贡献大小来决定。同时实验验证了两层 LBF网络对提高改进的 RBF网络分类正确率的极端重要性。大量应用实例表明 ,与前向三层 RBF网络和前向三层 LBF网络相比 ,该 IRBF网络具有收敛速度快、分类精度高、易于得到最小结构、在学习过程中不易陷入局部极小点等优点 ,有利于实现实时分析     

混合核函数对支持向量机分类性能的改进

通过对核矩阵的计算和研究,从理论上对常用的核函数进行了评估.在此基础上,通过实验仿真证实了通过优选后的核函数所组成的混合核函数对支持向量机分类性能的改善,为核函数的选择提供了参考.     

改进核函数的支持向量机智能诊断方法研究

针对目前支持向量机( SVM)智能诊断方法核函数选择困难以及参数选择具有随意性的问题,提出了基于模拟退 火算法改进核函数的SVM智能诊断方法,重新设计了支持向量机的核函数以及参数。多项式核函数是局部核函数具有 较强的拟合能力,而径向基核函数是全局核函数具有较强的外推能力,根据Mercer理论,建立一种由多项式核函数与径 向基核函数组合而成的复合核函数,并利用模拟退火算法全局寻优的优点,对支持向量机的参数做最优选择;改进后的 SVM运用于轴承故障诊断。研究结果表明：相对于传统SVM法,该方法具有较好的学习效率及较高的诊断准确率;该方 法运用于轴承故障诊断领域极大地提高了故障诊断的准确率以及诊断效率。该研究为基于模拟退火算法改进核函数的 SVM智能诊断方法应用于机械设备故障诊断提供了相应的理论和实践依据。     

半参数威布尔模型的Bayes参数估计

摘要：首先提出了半参数幂威布尔模型,使用P一样条函数构造出该模型的惩罚似然函数,根据对模型中参数的了解给出其先验信息,进而得到半参数幂威布尔回归模型中参数的联合后验分布和每个参数的边际密度函数,利用MCMC中流行的Gibbs抽样方法和Metropolis—Hastings算法从边际密度抽取样本,得到半参数幂威布尔模型中参数估计的随机样本序列,从而基于此进行一系列的参数估计、统计推断等。最后,利用随机模拟的方法,产生不同个数的样本量,发现随着样本的增加,参数估计越准确,越接近于真实参数值,说明利用Bayes方法估计半参数威布尔模型是有效的。     

球面径向基函数网络逼近

文章研究球面径向基平移网络的逼近问题．对一类核函数,构造了球面平移网络,证明了该网络在连续函数空间中的稠密性．     

改进的再生核方法求解一类常微分方程

传统的再生核函数是非初等函数,在处理多点问题时再生核函数表达式复杂且误差大.针对这个问题,本文用勒让德多项式构造新的再生核函数,得到的再生核函数为初等函数,函数表达式简单,并给出了改进的再生核方法和收敛性分析.用其求解一类多点问题的常微分方程,数值算例表明,用本文得到的再生核方法求解这类多点问题时计算时间短,误差小.     

用于RBF-SVM参数搜索的伪梯度动态步长算法

针对基于径向基核函数(RBF)的支持向量机(SVM)超参数选择问题,提出了一种基于差分方程的新算法——伪梯度动态步长算法。该算法根据径向基核函数的特点提出由训练集的空间特性确定的核参数搜索范围,并采用对数刻度表示搜索空间;利用参数空间中SVM在两个临近点的分类精度的变化估计参数的搜索方向,并且随着搜索方向的变化动态调整搜索步长,从而实现较快的搜索。通过与Grid和PSO方法的对比实验,表明该算法具有良好的性能。     

博弈论在邮件特征选择中的应用

特征选择在垃圾邮件过滤中起着十分重要的作用,本文分析讨论了现有邮件特征选择方法所存在的不足,并在此基础上,提出一种基于博弈论的邮件特征选择模型。该模型将博弈论应用于邮件特征选择中,以达到约减信息规模,提高垃圾邮件过滤效率的目的。在设计特征选择模型时,考虑到邮件样本自身的模糊隶属性对特征选择所产生的影响,在特征点对邮件类别的区分度定义中,通过引入由相融性度量定义的样本模糊隶属度函数,提高博弈邮件特征选择模型对实际问题的处理能力。在CDSCE语料库上的实验表明,该邮件特征选择模型的性能优于同类其他特征选择方法,验证了该邮件特征选择模型的有效性。     

基于混合相关竞争失效的多性能退化数据可靠性模型

针对包含多种相关退化模式的产品可靠性评估问题,提出了一种基于Copula函数选择的混合随机过程可靠性建模方法。采用时间尺度变换——混合效应的Wiener过程和非线性混合效应Gamma过程分别对两组性能退化数据进行建模,并利用MCMC方法进行参数估计;其次,通过散点图、相关系数检验和AIC准则进行Copula选择,利用极大似然法估计Copula参数,建立系统可靠度评估模型;最后,分别考虑多退化过程独立和相关,通过算例计算系统可靠度并进行对比,验证了模型的有效性。     

最大熵模型的事件分类

提出了一种基于最大熵模型的事件分类方法,该方法能够综合事件表述语句中的触发词信息及各类上下文特征对事件进行分类。对其中的两个关键问题:参数估计、特征模板与特征选择进行了详细论述,采用IIS算法学习模型参数,使用增量选择方法选择特征。应用该方法对人民日报语料中的职务变动、会见、恐怖袭击、法庭宣判、自然灾害五类事件进行了分类实验,结果表明,该方法的分类效果明显优于传统的分类方法。     

一种对称损失下Pareto分布参数的Bayes估计

本文讨论了给定容量n的一个Pareto样本在对称损失函数下,Pareto分布参数的Bayes估计,证明了这一估计是可容许的,并给出了Bayes的置信下限。     

基于EM的朴素贝叶斯分类算法

将EM算法引入到朴素贝叶斯分类研究中,提出一种基于EM的朴素贝叶斯分类算法。首先用未缺失的数据属性的算术均数作为初始值,求得极大似然估计;其次迭代执行算法的E步和M步直至收敛,然后完成缺失数据的填补;最后根据朴素贝叶斯分类算法对数据进行分类。实验结果表明,与朴素贝叶斯分类算法相比,基于EM的朴素贝叶斯分类算法具有较高的分类准确率。     

小样本条件下操作风险度量中的参数估计研究

针对操作风险损失数据匮乏的特点,引入贝叶斯推断理论来保证小样本条件下模型参数估计的质量,将专家经验以先验分布的形式引入,从贝叶斯推断的视角构建了融入专家经验的操作风险损失频率模型、损失强度模型和风险度量模型。其中,损失频率建模中假设损失频率服从Poisson-Gamma分布,损失强度建模中应用极值理论对损失分布的“厚尾”特性进行描述,利用广义帕累托分布(GPD)对损失强度分布进行拟合,并打破GPD的位置参数和形状参数常数化的限制,视其为随机变量并假定两者服从不同的Gamma分布。实证结果证明: 与传统的MLE方法相比,在小样本的情况下,基于贝叶斯推断的MCMC方法对参数的估计更有效和稳定,较好地解决了在操作风险度量中由于损失数据不足给损失分布拟合带来的难题。     

基于模式识别的校园网入侵检测系统应用研究

作为开放网络的组成部分,校园网络的安全是不可忽视的.入侵检测属于动态安全技术,它能够主动检测网络的易受攻击点.相对于传统的入侵检测技术来说,采用模式识别的入侵检测具有检测准确度高以及能识别大量新型攻击的优点.利用相似度对网络连接数据的属性特征进行选择,抽取其关键特征,以优化朴素贝叶斯的分类性能.利用VC6.0,设计实现入侵检测的原型系统,经测试,该系统性能良好.     

基于SVM的中小企业集合债券融资个体信用风险度量研究

中小企业集合债券融资个体的信用风险度量面临小样本、非线性、高维数等现实问题,传统的评估方法很难适用。为了弥补传统评估方法的不足,提高信用风险度量的准确性,建立了适用性更强的信用风险评估指标体系,并引入基于统计学习理论的SVM模型对融资个体信用风险进行度量。选取径向基核函数作为支持向量机的核函数,通过数据的转化与缩放、参数的优选,最终获得了分类效果比较好的中小企业集合债券融资个体信用风险度量模型。经实际数据检验,模型的预测准确率为90.77%,具有较强的适用性。     

基于磁光图像的飞机铆钉缺陷识别

针对飞机铆钉磁光图像的识别问题,提出了一种基于模糊支持向量机的裂纹有无和裂纹方向自动识别的新方法。该方法首先对铆钉磁光图像进行预处理得到铆钉二值化图像;然后采用阈值法求取铆钉中心;最后将由铆钉中心发出的星形射线矢量作为特征,采用模糊支持向量机方法对铆钉有无裂纹和裂纹方向进行分类。其中,支持向量机的核宽及惩罚常数采用网格法进行选取,并结合模糊隶属度函数解决多类分类问题中存在的错分和拒分现象。实验结果表明,使用训练获得的支持向量机分类器识别裂纹缺陷取得了很好的效果,能够满足自动检测的高实时性要求。     

基于群体协同智能聚类的期刊分类大数据自动存储方法

求解期刊分类大数据自动存储问题时，传统方法在分解的过程中无法保证准确性与合理性，对解的合并策略选择不合理，导致寻优过程中出现一定的偏差，造成期刊分类存储效率大大降低。为此，需要提出一种新的基于群体协同智能聚类的期刊分类大数据自动存储方法。确定径向基神经网络的初始结构，通过样本分布计算径基宽度获取隐节点群，将其当成初始集合。将分类存储精度最高、F-measure最大、期刊特征相似性最高作为目标函数，将其加权和作为适应函数。在求解过程中，各子群内部通过模拟退火法将分布估计算法和遗传算法结合在一起，产生新个体，利用群体协同合作的方式实现智能聚类。通过进化获取最优个体，得到最终精英集合，将其看作最后得到的径向基神经网络结构，通过得到的径向基神经网络实现期刊分类大数据自动存储。实验结果表明，所提方法期刊分类大数据存储性能强。