基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。     

异方差条件下两种回归方法的比较

最小二乘回归作为一种优良的统计方法应用非常广泛,但是在使用时要求满足同方差等假设条件.文章归纳总结了最小二乘回归和分位数回归的理论特点及异方差产生的原因,论证了异方差对最小二乘回归造成的负面影响,并通过模拟研究和实例研究比较了两种回归方法的功能.结果显示,在异方差情况下,分位数回归可以在因变量条件分布的不同水平上刻画回归关系,分离出回归系数的变异,其结果较最小二乘回归更加全面和细致.     

基于一元线性回归模型异方差对加权最小二乘法的考察

作为普通最小二乘法的改进,加权最小二乘法用于存在异方差问题的线性回归模型的参数估计。文章通过对加权最小二乘估计量、加权最小二乘变换的分析,并结合实际例证研究发现,加权最小二乘法在应用中存在一些不足之处,因而当发现模型存在异方差时使用加权最小二乘法是存在风险的。     

偏最小二乘回归在SPSS软件中的实现

偏最小二乘回归是第二代回归分析方法,目前已在各种领域得到广泛应用.文章通过详细介绍不同版本的SPSS软件中PLS模块的安装来说明偏最小二乘回归方法在SPSS软件中的实现,并结合实例进一步说明该方法的参数设置和结果的解释.实例分析表明:偏最小二乘回归能够解决变量间多重共线性问题,适合在样本数小于变量个数情形下对系统进行回归建模.     

协整平滑转移回归中的线性检验 ——基于完全修正最小二乘法的扩展

 在解释变量内生条件下,Choi,Saikkonen(2004)使用动态最小二乘法估计协整平滑转移回归模型,并基于动态最小二乘的估计结果构造 统计量检验协整向量的非线性。本文系统解析了 的构造并指出其不足,针对这一不足,本文将动态最小二乘法扩展为完全修正的最小二乘法,并进而基于完全修正的最小二乘法估计结果构造 统计量检验协整向量的非线性。本文的仿真试验表明,在有限样本下, 与 的检验势没有显著差异,但 的水平扭曲小于 。     

最小一乘法与最小二乘法:基于例证的比较

最小一乘法和最小二乘法在估计思想上有着相同的渊源,而在实现路径上有所不同:最小一乘法属于中位数回归而最小二乘法属于均值回归。由此,两者在回归系数的计算、回归直线的性质和估计结果等方面均存在较大差异。文章在理论分析的基础上进一步通过例证,将两类估计方法在计算、优劣势和应用范围做出了比较和分析。     

加权最小二乘法残差图问题探讨——与何晓群教授商榷

一、问题的提出残差图在回归分析中有着重要作用,其用途可以归纳为两个方面:一是检验线性回归模型中与随机误差项有关的假定(同方差与不自相关)是否成立;二是当这些基本假定违背时,验证对模型参数估计的修正方法是否有效。如果残差图不能发挥其中的任一作用,那就没有任何意义。何晓群在讲授用加权最小二乘法消除异方差问题时给出了一张加权最小二乘估计的残差图(见《应用回归分析》第102页。何晓群,刘文卿编著.2001年6月由中国人民大学出版社出版),在我看来,这张图既不能用来检验原始数据是否存在异方差问题,又不能验证加权最小二乘法在消除…     

具有线性趋势的残差自回归模型的估计方法

为了探寻具有线性趋势的残差自回归模型的较为合适的估计方法,文章以残差AR(2)模型为例,对直接最小二乘法、两步法、非线性最小二乘法和化归法进行了Monte Carlo模拟,拟合和预测结果显示非线性最小二乘法和化归法的均方误差和平均绝对误差相同且最小.此外,还利用1980-2013年河南省人均GDP经济数据进行了拟合与预测实证分析,得到了与模拟比较相类似的结果,这说明非线性最小二乘法和化归法是较优的估计方法.进一步地,基于非线性最小二乘法,给出了河南省人均GDP的短期预测.     

浅谈加权最小二乘法及其残差图——兼答孙小素副教授

一、引言最近,看到《统计研究》2005年第11期上刊登的孙小素的文章《加权最小二乘法残差图问题探讨———与何晓群教授商榷》一文,以下简称《孙文》感触良多。首先衷心感谢孙小素副教授阅读了我们的《应用回归分析》作节,同时感谢《统计研究》给我们提供这样一个好的机会,使我们能够借助贵刊对加权最小二乘法的有关问题谈谈更多的认识。《孙文》谈到《应用回归分析》教材中有关加权最小二乘法残差图的问题。摆出了与加权最小二乘法相关的三类残差图,指出第三类残差图的局限性。直接的问题是三类残差图的作用,而更深层的原因应该是对加权最小…     

分位数回归的思想与简单应用

与普通最小二乘法相比,分位数回归能够更充分反映自变量对不同部分因变量的分布产生不同的影响,有着十分广泛的应用。本文对分位数回归的思想做了一个简单的介绍,并将其方法应用于恩格尔定律中,比较分析了异方差和同方差下分位数回归与普通最小二乘法的优劣。     

基于极大熵法的曲线拟合及其应用

一、引言数据拟合问题在科学与工程研究中经常遇到,它是通过实验或实际统计得到一些数据,然后根据对这些数据某些规律的研究来预测其他未知的问题。在实际问题中,为了求得回归参数的大小,最常用的方法是最小二乘法。这是因为回归模型在符合Gauss-Markov假定的条件下,采用最小二乘法估计其回归参数具有良好的统计性质,如无偏性、一致性、最小方差性等。然而实际的测试数据千差万别,而且对测试数据进行数据拟合的目的也不同,从而使得采用最小二乘法进行数据拟合的结果往往达不到预期的要求。例如,由于偶尔存在的粗大误差而出现了反常数据,或数据的概率分     

空间回归模型估计中的最小二乘法

空间回归模型由于引入了空间地理信息而使得其参数估计变得复杂,因为主要采用最大似然法,致使一般人认为在空间回归模型参数估计中不存在最小二乘法。通过分析空间回归模型的参数估计技术,研究发现,最小二乘法和最大似然法分别用于估计空间回归模型的不同的参数,只有将两者结合起来才能快速有效地完成全部的参数估计。数理论证结果表明,空间回归模型参数最小二乘估计量是最佳线性无偏估计量。空间回归模型的回归参数可以在估计量为正态性的条件下而实施显著性检验,而空间效应参数则不可以用此方法进行检验。     

一元线性回归模型中参数估计的几种方法比较

文章介绍了一元线性回归模型中参数估计的最小二乘法、最小一乘法、全最小一乘法的意义,并指出了他们的优缺点。在对具体模型进行参数估计时,分别将最小一乘法、全最小一乘法的计算转化为线性规划问题及非线性优化问题,最后利用优化软件LINGO计算相应的参数。     

基于双重筛选的多因变量偏最小二乘逐步回归方法

偏最小二乘回归分析中的一个重要问题是变量选择,文章的主要目的是给出一种改进的多元数据分析方法-基于双重筛选的多因变量偏最小二乘逐步回归方法。双重筛选方法既能按自变量对因变量的关系进行分组,又能使每个自变量对各组因变量的作用反映出来。因此基于双重筛选的多因变量偏最小二乘回归方法能很好地处理这类问题,并得到好的结果。     

基于PLS-GA-SVR的区域经济预测模型及实证

文章提出了一种将偏最小二乘法（PLS）、遗传算法（GA）和支持向量回归（SVR）相结合的预测算法。首先,为了解决多元回归中存在的多重共线性问题,采用偏最小二乘法选取回归变量的主成分;然后,利用支持向量回归预测模型对数据进行训练,利用遗传算法获得更好的预测模型参数,以解决传统支持向量机预测模型中的参数选取困难的问题;最后,利用优化的预测模型对区域经济发展进行预测。结果表明,该算法在预测精度上优于其他预测模型,能够准确预测未来区域经济发展趋势。     

广义最小二乘法在建立回归模型中的应用

89广义最小二乘法在建立回归模型中的应用@郎静波     

偏最小一乘回归算法及其应用

一、最小一乘法简介 在回归分析中,经验回归方程的待估参数一般是通过最小二乘算法来确定的,即以样本误差的平方和达到最小为条件;但是理论上回归模型的待估参数应以误差的绝对值和达到最小为条件,即通过最小一乘算法来确定.     

偏最小二乘回归的基本性质扩展与改进策略

偏最小二乘回归(PLS)应用价值广泛,在战略管理研究中,尤其是以企业样本为主要分析单位时,偏最小二乘回归良好的数学性质,如交叉有效性原则、对样本量需求小和对多重共线性诊断的优势等发挥得非常明显;同时偏最小二乘回归在组织与管理研究中也存在较明显的不足。文章针对这些不足,运用一个战略管理领域企业实地调研的实例对偏最小二乘回归的劣势进行了否证式的说明与论证。     

谈直线回归方程的应用条件

当前，随着统计事业的发展，最小二乘法已成为统计分析工作中的最基本方法之一。不论是时间数列的动态分析、还是横截面的静态分析，最小二乘法都发挥着极大的作用。一、最小二乘法直线方程的剖析对于一个数列，如果用最小二乘法配合直线模型，首先要求其自变量是一个非随机的变量。例如：研究某一社会经济现象随时间的变化规律，时间就是一个非随机变量。但是如果研究身高与体重、收入与支出等现象时，被研究的两个变量都是随机变量。在后一种情况下利用最小二乘法时，应假定某一作为自变量的变量是非随机变量，然后再做直线的回归。由于这…     

模糊线性回归模型的最小二乘方法

针对自变量和因变量皆模糊的数据系统中的回归分析问题,为避免自变量退化成数值变量时可能引致的估计误差增大而带来的问题,提出系统中引入模糊调整项的回归模型的一般结构,并运用基于模糊数间完备距离的最小二乘法研究模型解析表达式;利用水平截集概念将模糊多元回归模型转化成两个传统回归模型,根据模糊数间距离采用最小二乘法得到参数估计,给出员工工作绩效评估的算例说明方法的有效性,并结合Bootstrap方法的应用,研究回归参数所具有的随机不确定性动态变化。