再议普通最小二乘法下回归系数的性质

文章从个体的角度探讨最小二乘法下的估计系数的形成过程,得出一元回归中的回归系数是各个数据点上的回归系数以Epanechnikov核函数进行加权形式的。并在此基础上,推广到多元线性回归,多元线性回归的估计系数本质上为一种参数结构,它是以自变量的协方差矩阵为联系纽带,将回归系数分解为偏回归系数,将两个系数结合起来澄清目前计量经济学和统计学的一些问题。     

普通最小二乘法的几何分析

普通最小二乘估计法是在目标函数残差平方和的达到最小的条件下求得参数估计量,从向量的角度来说,普通最小二乘法将被解释变量分解成了相互正交的两部分,通过空间向量理论和几何分析方法,可以在欧氏空间内对普通最小二乘估计量进行求解,这种分析过程使普通最小二乘法变得更直观。     

最小二乘法在经济预测中的应用

预测商品销售情况有多种方法,这里简单介绍如何用最小二乘法进行商品销售预测。 一、最小二乘法 最小二乘法是由实验或调查数据,建立在直线型经验公式的一种常用方法。 例如,由实验或调查得变量互０的一批数据为： ｘ１,ｘ２,…………, ｘｎ ｙ１,ｙ２,…………,ｙｎ 在平面直角坐标系中,它们应对应着几个数点（ｘ１,ｙ１）,（ｘ２,ｙ２）,……,（Ｘｎ,ｙｎ）。 如果这两个变量ｘ,ｙ间存在线性关系,即散点,（ｘｉ,ｙｉ）（ｉ＝１,２,…………,ｎ）的分步近拟地在一条直线上,则待确定的经验公式是一直线型公式 Ｙ—…     

线性化最小二乘法的理论分析

在处理非线性回归中的可线性化回归问题时,最小二乘法给了我们很大的方便.但是人们在享有其优点的同时,忽视了其结果准确性问题.文章从理论上给出了线性最小二乘法结果准确性的证明并提出了解决方法.     

经典最小二乘与全最小二乘法及其参数估计

文章对经典的最小二乘和全最小二乘方法的应用背景、原理与算法进行了介绍,给出了它们在线性模型参数估计中的MATLAB实现;通过计算机仿真说明了在模型中所有变量均具有不可忽略的误差时,全最小二乘法得到的参数估计更接近于真实参数.     

广义最小二乘法在建立回归模型中的应用

89广义最小二乘法在建立回归模型中的应用@郎静波     

改进的最小二乘估计确定高精度参数模型

本文将2006年研究生数学建模竞赛进一步讨论,对于观测数据不准确的情况,先将模型转化为差分形式,用最小二乘估计方法对参数进行估计,当设计矩阵呈病态时,最小二乘估计变的不是很精确。为了提高参数估计的精确度,笔者提出了一种改进方法,对迭代矩阵进行Jacobi迭代预处理,再用最小二乘法进行求解,仿真结果表明预处理后的参数估计更为准确。     

我国财政能力的偏最小二乘回归研究

一、问题的提出为了缓解通货紧缩的压力 ,扭转经济持续下滑的局面 ,1998年我国开始实行积极的财政政策 ,从 1998年到2 0 0 1年 ,我国政府共发行了 5 10 0亿长期建设国债。由于连续多年实行积极的财政政策 ,财政赤字和国债余额的规模增加得较快 ,赤字率和国债负担率都比 1998年以前有了明显和大幅度地上升 ,财政风险和国债风险受到了高度关注 ,积极财政政策的可持续性也引起了争议。从反映一国财政能力的另一个重要指标 ,财政收支占ＧＤＰ的比重这一指标来看 ,2 0 0 0年 ,我国财政收入占ＧＤＰ比重为 14 98% ,与世界其它国家相比 ,属于较低的…     

基于一元线性回归模型异方差对加权最小二乘法的考察

作为普通最小二乘法的改进,加权最小二乘法用于存在异方差问题的线性回归模型的参数估计。文章通过对加权最小二乘估计量、加权最小二乘变换的分析,并结合实际例证研究发现,加权最小二乘法在应用中存在一些不足之处,因而当发现模型存在异方差时使用加权最小二乘法是存在风险的。     

最小一乘法与最小二乘法:基于例证的比较

最小一乘法和最小二乘法在估计思想上有着相同的渊源,而在实现路径上有所不同:最小一乘法属于中位数回归而最小二乘法属于均值回归。由此,两者在回归系数的计算、回归直线的性质和估计结果等方面均存在较大差异。文章在理论分析的基础上进一步通过例证,将两类估计方法在计算、优劣势和应用范围做出了比较和分析。     

协整平滑转移回归中的线性检验 ——基于完全修正最小二乘法的扩展

 在解释变量内生条件下,Choi,Saikkonen(2004)使用动态最小二乘法估计协整平滑转移回归模型,并基于动态最小二乘的估计结果构造 统计量检验协整向量的非线性。本文系统解析了 的构造并指出其不足,针对这一不足,本文将动态最小二乘法扩展为完全修正的最小二乘法,并进而基于完全修正的最小二乘法估计结果构造 统计量检验协整向量的非线性。本文的仿真试验表明,在有限样本下, 与 的检验势没有显著差异,但 的水平扭曲小于 。     

加权最小二乘法残差图问题探讨——与何晓群教授商榷

一、问题的提出残差图在回归分析中有着重要作用,其用途可以归纳为两个方面:一是检验线性回归模型中与随机误差项有关的假定(同方差与不自相关)是否成立;二是当这些基本假定违背时,验证对模型参数估计的修正方法是否有效。如果残差图不能发挥其中的任一作用,那就没有任何意义。何晓群在讲授用加权最小二乘法消除异方差问题时给出了一张加权最小二乘估计的残差图(见《应用回归分析》第102页。何晓群,刘文卿编著.2001年6月由中国人民大学出版社出版),在我看来,这张图既不能用来检验原始数据是否存在异方差问题,又不能验证加权最小二乘法在消除…     

动态广义最小二乘法在面板协整中的应用研究

在进行非平稳面板数据的协整分析时,使用动态最小二乘法（DOLS）可以有效消除内生性问题,从而得到具有渐进正态分布的统计量。但在小样本条件下,由于可使用解释变量差分项的阶数有限,导致模型中均衡误差项的序列相关,使得DOLS统计量出现严重的检验水平畸变。为此,本文将单一时间序列的动态广义最小二乘法（DGLS）应用于非平稳的同质面板数据模型。在序贯极限分布的条件下,DGLS统计量仍具有正态的条件极限分布。而仿真实验表明,对于非平稳的同质面板数据模型,即使在均衡误差项存在高序列相关的条件下,DGLS统计量仍具有较好的小样本性质。     

基于灰色判断矩阵的一致性及其排序研究

对灰色层次分析法中基于灰色判断矩阵的一致性和排序问题进行了研究。提出了灰色判断矩阵的弱一致性和乘性完全一致性的条件,然后讨论了在单一准则下基于灰色判断矩阵的方案集排序问题。方法一将灰色判断矩阵转化为白化矩阵,通过研究白化矩阵的性质来对方案集进行排序,方法二是将其转化为区间灰数互补判断矩阵,再利用OWA算子对方案集集结进而进行排序。最后通过算例说明了该方法的有效性。     

模糊判断矩阵最优化排序方法研究综述

文章研究基于模糊判断矩阵的方案排序问题.根据完全一致性模糊判断矩阵的特性,依据不同的优化标准建立几种求解排序向量的最优化模型,从而解决具有满意一致性的模糊判断矩阵的方案排序问题,并对常用最优化排序方法进行了总结,初步分析了各种方法排序结果的合理性.     

浅谈加权最小二乘法及其残差图——兼答孙小素副教授

一、引言最近,看到《统计研究》2005年第11期上刊登的孙小素的文章《加权最小二乘法残差图问题探讨———与何晓群教授商榷》一文,以下简称《孙文》感触良多。首先衷心感谢孙小素副教授阅读了我们的《应用回归分析》作节,同时感谢《统计研究》给我们提供这样一个好的机会,使我们能够借助贵刊对加权最小二乘法的有关问题谈谈更多的认识。《孙文》谈到《应用回归分析》教材中有关加权最小二乘法残差图的问题。摆出了与加权最小二乘法相关的三类残差图,指出第三类残差图的局限性。直接的问题是三类残差图的作用,而更深层的原因应该是对加权最小…     

空间回归模型估计中的最小二乘法

空间回归模型由于引入了空间地理信息而使得其参数估计变得复杂,因为主要采用最大似然法,致使一般人认为在空间回归模型参数估计中不存在最小二乘法。通过分析空间回归模型的参数估计技术,研究发现,最小二乘法和最大似然法分别用于估计空间回归模型的不同的参数,只有将两者结合起来才能快速有效地完成全部的参数估计。数理论证结果表明,空间回归模型参数最小二乘估计量是最佳线性无偏估计量。空间回归模型的回归参数可以在估计量为正态性的条件下而实施显著性检验,而空间效应参数则不可以用此方法进行检验。     

互补判断矩阵引入一组新元素的强保序性条件

文章针对互补判断矩阵,提出了方案排序的强保序性概念,并给出了在采用模糊最小偏差法(FLDM)时,互补判断矩阵导入一组新元素后的强保序性条件.     

一种新的基于最小二乘法的分段直线拟合方法

正在计量经济学、统计学、物理实验等各种工程技术和科学实验中常常会得到隐含某种函数关系的一系列有序对,如何根据这些有序对来揭示它们客观规律,常用方法是用曲线拟合方法来建立它们的数学模型。在对这些复杂的数据进行拟合时,多采用基于最小二乘法的曲线拟合的方法,利用此方法可以实现最佳逼近。采用一种曲线函数拟合所有数据难以取得较好的拟合效果,如何改进最小二乘法的曲线拟合就成为研究焦点。有人提出把数据分成若干组,然后对每组数据再进行线性拟合,得到了基于最小二乘法的分段直线拟合;但它没有给出数据分段方法。有人利用拟合直线的初始点A、终点B和下一个     

基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。