解决多重共线性问题的线性回归方法

本文针对当出现多重共线性时用普通最小二乘法估计的参数值与实际值相去甚远甚至无法被估计的现象 ,介绍了三种解决办法 :主成份回归、岭回归和偏最小二乘法。这三种方法在解决问题的思路上各有异同 ,本文着重介绍了它们的基本思想和主要算法步骤     

地理加权似乎不相关回归模型及其估计

为了刻画时空异质性,文章基于地理加权回归技术和似乎不相关回归方法提出了一种新的空间计量经济学模型——地理加权似乎不相关模型.对于这类模型中的未知系数函数,提出了两种估计方法,第一种方法是利用局部加权最小二乘方法分别估计每个时刻对应的空间变系数模型,第二种方法是广义局部加权最小二乘估计,考虑了同一地点不同时刻误差之间的相关性.     

协整平滑转移回归中的线性检验 ——基于完全修正最小二乘法的扩展

 在解释变量内生条件下,Choi,Saikkonen(2004)使用动态最小二乘法估计协整平滑转移回归模型,并基于动态最小二乘的估计结果构造 统计量检验协整向量的非线性。本文系统解析了 的构造并指出其不足,针对这一不足,本文将动态最小二乘法扩展为完全修正的最小二乘法,并进而基于完全修正的最小二乘法估计结果构造 统计量检验协整向量的非线性。本文的仿真试验表明,在有限样本下, 与 的检验势没有显著差异,但 的水平扭曲小于 。     

异方差条件下两种回归方法的比较

最小二乘回归作为一种优良的统计方法应用非常广泛,但是在使用时要求满足同方差等假设条件.文章归纳总结了最小二乘回归和分位数回归的理论特点及异方差产生的原因,论证了异方差对最小二乘回归造成的负面影响,并通过模拟研究和实例研究比较了两种回归方法的功能.结果显示,在异方差情况下,分位数回归可以在因变量条件分布的不同水平上刻画回归关系,分离出回归系数的变异,其结果较最小二乘回归更加全面和细致.     

最小一乘法与最小二乘法:基于例证的比较

最小一乘法和最小二乘法在估计思想上有着相同的渊源,而在实现路径上有所不同:最小一乘法属于中位数回归而最小二乘法属于均值回归。由此,两者在回归系数的计算、回归直线的性质和估计结果等方面均存在较大差异。文章在理论分析的基础上进一步通过例证,将两类估计方法在计算、优劣势和应用范围做出了比较和分析。     

分位数回归的思想与简单应用

与普通最小二乘法相比,分位数回归能够更充分反映自变量对不同部分因变量的分布产生不同的影响,有着十分广泛的应用。本文对分位数回归的思想做了一个简单的介绍,并将其方法应用于恩格尔定律中,比较分析了异方差和同方差下分位数回归与普通最小二乘法的优劣。     

基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。     

基于分位数回归的面板数据模型估计方法

文章在对分位数回归基本原理进行全面分析说明的基础上,对其在面板数据模型中的应用作了深入分析。利用1998～2006年25个行业企业销售收入与专利申请数量的面板数据,分别采取最小二乘法和分位数回归法进行参数估计和比较分析,结果表明：分位数回归方法在进行面板数据模型估计时具有明显的优势。     

关于纵向数据分析方法的比较研究

文章通过比较加权最小二乘,极大似然估计,广义估计方程,分位回归和复合分位回归五种方法在随机效应模型中对固定效应的估计效果,来说明各种方法在不同情况下的表现性能,重点介绍了各个方法的应用背景并给出固定效应、随机效应以及协方差估计的表达式.文章通过蒙特卡洛模拟来进一步说明这些方法的表现情况.最后通过实际的生物数据来说明各个方法的应用.     

空间回归模型估计中的最小二乘法

空间回归模型由于引入了空间地理信息而使得其参数估计变得复杂,因为主要采用最大似然法,致使一般人认为在空间回归模型参数估计中不存在最小二乘法。通过分析空间回归模型的参数估计技术,研究发现,最小二乘法和最大似然法分别用于估计空间回归模型的不同的参数,只有将两者结合起来才能快速有效地完成全部的参数估计。数理论证结果表明,空间回归模型参数最小二乘估计量是最佳线性无偏估计量。空间回归模型的回归参数可以在估计量为正态性的条件下而实施显著性检验,而空间效应参数则不可以用此方法进行检验。     

分位数回归及应用简介

文章介绍了分位数回归法的概念、算法及主流统计软件R和SAS计算时的语法,并通过实例与以普通最小二乘法为基础的线性回归进行了对比,展现了分位数回归的巨大魅力。     

偏最小二乘回归在SPSS软件中的实现

偏最小二乘回归是第二代回归分析方法,目前已在各种领域得到广泛应用.文章通过详细介绍不同版本的SPSS软件中PLS模块的安装来说明偏最小二乘回归方法在SPSS软件中的实现,并结合实例进一步说明该方法的参数设置和结果的解释.实例分析表明:偏最小二乘回归能够解决变量间多重共线性问题,适合在样本数小于变量个数情形下对系统进行回归建模.     

MATLAB中方程组的解与回归模型的最小二乘估计

本文讨论了线性回归模型与线性方程组之间的内在联系与形式上的差异,基于MATLAB对线性方程组的解进行了扩展,指出超定方程组的近似解就是对应线性回归模型的最小二乘解,并且给出了实例和相应模拟程序.     

基于SSA-MGF的偏最小二乘回归预测模型

本文利用奇异谱分析和均生函数方法,对原始序列重构延拓作为自变量,原始序列作为因变量,建立偏最小二乘回归预测模型,并与主成分最小二乘回归预测模型比较分析.实例结果表明,该方法具有预测精度高、稳定好的特点.     

偏最小二乘回归的基本性质扩展与改进策略

偏最小二乘回归(PLS)应用价值广泛,在战略管理研究中,尤其是以企业样本为主要分析单位时,偏最小二乘回归良好的数学性质,如交叉有效性原则、对样本量需求小和对多重共线性诊断的优势等发挥得非常明显;同时偏最小二乘回归在组织与管理研究中也存在较明显的不足。文章针对这些不足,运用一个战略管理领域企业实地调研的实例对偏最小二乘回归的劣势进行了否证式的说明与论证。     

改进的最小二乘估计确定高精度参数模型

本文将2006年研究生数学建模竞赛进一步讨论,对于观测数据不准确的情况,先将模型转化为差分形式,用最小二乘估计方法对参数进行估计,当设计矩阵呈病态时,最小二乘估计变的不是很精确。为了提高参数估计的精确度,笔者提出了一种改进方法,对迭代矩阵进行Jacobi迭代预处理,再用最小二乘法进行求解,仿真结果表明预处理后的参数估计更为准确。     

缺失数据下随机系数自回归模型的参数估计

随机系数自回归模型能够较好地描述模型系数随时间变化的特性,因此得到了广泛应用。文章讨论具有缺失数据的随机系数自回归模型的参数估计问题,在缺失数据情形下给出了四种模型参数估计方法:无数据填充条件最小二乘法、均值填充法、条件均值填充法以及桥填充法。最后,通过随机模拟说明了上述估计方法的精确性,并给出了应用实例。     

线性化最小二乘法的理论分析

在处理非线性回归中的可线性化回归问题时,最小二乘法给了我们很大的方便.但是人们在享有其优点的同时,忽视了其结果准确性问题.文章从理论上给出了线性最小二乘法结果准确性的证明并提出了解决方法.     

上市公司业绩评价模型与实证分析、

近年来,业绩评价受到越来越多的关注。在目前理论界上市公司业绩评价指标体系的基础上,本文引偏最小二乘回归方法进行实证分析,发现可以得到较好的预测上市公司未来中长期的业绩的模型。     

一种异方差模型的两阶段估计

在异方差线性回归模型中,当模型误差项的协方差阵未知时,对异方差模型进行估计目前还没有比较好的方法。基于此,提出一种异方差模型的两阶段估计—基于异方差一致协方差阵估计,该方法将异方差一致协方差阵估计HC5m和广义最小二乘估计法结合起来,综合使用全部样本的信息,并对异方差模型进行估计。通过大量的蒙特卡洛数值模拟和实证分析,结果表明该方法具有一定的可行性和有效性。