解决多重共线性问题的线性回归方法

本文针对当出现多重共线性时用普通最小二乘法估计的参数值与实际值相去甚远 ,甚至无法被估计的现象 ,介绍了三种解决办法 :主成分回归、岭回归和偏最小二乘法。这三种方法在解决问题的思路上各有异同 ,本文着重介绍了它们的基本思想和主要处理步骤     

GMDH与PLS解决多重共线性问题的比较研究

本文通过理论分析、数据试验以及实证研究三种途径,对GMDH与PLS两种算法解决多重共线性问题的特点进行了比较分析,发现了使用GMDH对于解决多重共线性数据建模问题的贡献,为解决多重共线性问题提供了新的途径。     

Logistic模型多重共线性问题的诊断及改进

文章诊断并改进了logistic回归模型多重共线性问题方法,采用条件指数和方差分解比例两项指标进行共线性诊断、应用主成分改进和偏最小二乘回归两种方法进行多重共线性变量的改进处理:去除了回归模型中变量间的多重共线性影响,建立了较为理想的关系模型.结果表明,在Logisdc回归模型分析中,应用上述方法进行多重共线性的诊断和处理是有效及可行的.     

局部线性估计中的多重共线性问题

各解释变量之间存在多重共线性是现实中很普遍的现象。本文对局部线性估计多重共线性问题进行了讨论,发现多重共线性造成局部线性估计精度下降的原因,并提出了一个补救方法:当变量之间高度相关时采用主成分回归可以有效提高估计精度。本文还通过模拟的方式证明了此方法的有效性。     

多重共线性下的线性回归方法综述

多重共线性（简称共线性）是回归分析中一个非常棘手的问题。多重共线性由R．Frisch在1934年引入的,主要研究是在上世纪六、七十年代进行的,但直到现在仍然没有完全解决。     

多重共线性与最大熵罗汶估计模型

多重共线性对多元线性回归方程的估计造成的影响已引起众多学者的关注。许多旨在解决多重共线性的补救方法(例如岭回归和广义最大熵)由于其自身的缺陷使得补救效果大打折扣。Paris在量子电动力学理论的启发下提出了最大熵罗汶估计量,运用蒙特卡洛试验证明:不管多重共线性有多严重,它可靠地估计被估参数的能力要强于一般最小二乘法。     

线性回归方法在数据挖掘中的应用和改进

文章对线性回归以及其扩展方法进行分析,并从多个方面对这些方法性能进行评估,同时还对回归技术在数据挖掘中的几个典型应用进行了阐述。并且,在传统线性回归算法上提出了更为健壮的改进方法。     

多重共线性的解决:剔除变量的新标准

当使用剔除变量法解决线性回归模型的多重共线性问题时,根据方差膨胀因子的大小来选择被剔除变量是存在缺陷的.解释变量显著性检验的t统计量的绝对值大小反映了该解释变量对被解释变量的贡献程度的大小,因此可以将t统计量绝对值作为剔除解释变量的依据,从而得到一类多重共线性的解决办法.     

基于聚类分析和因子分析消除多重共线性的方法

文章针对经典多元线性回归模型中存在的多重共线性问题,提出了一种新的基于聚类分析和因子分析的解决方法,并通过例子验证了此方法在实际应用中可以取得良好的效果。     

模糊线性回归模型的最小二乘方法

针对自变量和因变量皆模糊的数据系统中的回归分析问题,为避免自变量退化成数值变量时可能引致的估计误差增大而带来的问题,提出系统中引入模糊调整项的回归模型的一般结构,并运用基于模糊数间完备距离的最小二乘法研究模型解析表达式;利用水平截集概念将模糊多元回归模型转化成两个传统回归模型,根据模糊数间距离采用最小二乘法得到参数估计,给出员工工作绩效评估的算例说明方法的有效性,并结合Bootstrap方法的应用,研究回归参数所具有的随机不确定性动态变化。     

主成分回归能消除多重共线性吗?

主成分回归方法已得到广泛应用,但该方法是否能减小参数估计的误差,理论上并没有明确的结论。以3个假设模型为例,运用模拟计算的方法对主成分回归方法进行了研究,发现主成分回归估计的误差可能比普通最小二乘估计更小,也可能更大,依赖于实际的模型。     

多重共线性的诊断方法

在对经济现象作建模分析与预测过程中,常常会遇到多重共线问题。基于多重共线的病态模型预测完全失效,文章就多重共线的诊断理论方法作了阐述,尤其是对多重共线影响点的诊断方法作了介绍,特别是对Walker法与主成分法对多重共线影响点的诊断作了比较。     

对多重共线性问题的探讨

本文指出变量间的内在联系是共线性产生的本质原因,并普遍存在于变量之间;总结分析了共线性的潜在危害、诊断方法和处理手段;共线性的诊断并不是必须的,其严重性也不等于有危害性,但现有处理方法偏离了危害性这个问题本源。本文结合文图研究,指出共线性有意义的区分是有无危害性,并提出GMDH方法能处理有害共线性问题。     

偏最小二乘回归在SPSS软件中的实现

偏最小二乘回归是第二代回归分析方法,目前已在各种领域得到广泛应用.文章通过详细介绍不同版本的SPSS软件中PLS模块的安装来说明偏最小二乘回归方法在SPSS软件中的实现,并结合实例进一步说明该方法的参数设置和结果的解释.实例分析表明:偏最小二乘回归能够解决变量间多重共线性问题,适合在样本数小于变量个数情形下对系统进行回归建模.     

多重共线性的消除：不相关法

如何采用相应的办法来消除经济计量模型中的多重共线性,一直是经济计量研究中人们关注的焦点问题之一。对此,本文提出了一种新的多重共线性消除的方法——不相关法,并就该方法的基本思想、计算步骤和实际应用进行了讨论,这对于不断完善多重共线性的消除方法体系有着一定的意义。     

解决多重共线性的新思路:路径分析

文章在回顾多重共线性产生的原因、后果、解决思路的基础上,文章提出了用路径分析解决多重共线性的新思路,实证分析结果表明:在解决多重共线性方面,路径分析可以得到和逐步回归相同的结果.     

基于偏最小二乘回归的COCOMO模型校准方法

准确的软件成本估算对于实现软件项目的科学管理具有重要意义.COCOMO系列模型是当今实践应用最为广泛的成本估算模型之一.文章针对现有的COCOMO模型参数校准方法只对比例因子和指数因子进行校准的问题,为了更好的实现COCOMO模型本地化,提出了一种基于偏最小二乘回归的参数校准方法,解决了工作量乘数因子的校准问题.采用COCOMO81原始建模数据库对校准后的参数进行验证,结果表明该方法能够明显提升COCOMO模型的估算精度.     

基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。     

分位数回归的思想与简单应用

与普通最小二乘法相比,分位数回归能够更充分反映自变量对不同部分因变量的分布产生不同的影响,有着十分广泛的应用。本文对分位数回归的思想做了一个简单的介绍,并将其方法应用于恩格尔定律中,比较分析了异方差和同方差下分位数回归与普通最小二乘法的优劣。