自变量可重复观测的线性回归模型研究

文章研究了自变量可作重复观测的线性回归模型.对固定自变量X采用重复观测,得到应变量Y的多个观测值,并利用其均值与X构成数对,建立起自变量重复观测的线性回归模型.讨论了这种模型在一元时的情形,实例分析结果表明,该线性回归模型的参数估计值的方差更小,较之传统回归模型更为有效.     

复共线性诊断方法的比较

随着回归分析的深入应用,特别是计算机技术的飞速发展,人们愈来愈多地处理含较多自变量的大型回归问题,许多应用实践表明,在一些情况下,例如存在异常值和复共线性(多重共线性)等,经典最小二乘方法并不很理想:如果诸X之间有完全的共线性,则它们的回归系数是不确定的,并且它们的标准误没有定义;如果有高度共线性,回归系数有较大的标准误,系数的总体值不能准确地加以估计.     

基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。     

对误差序列相关模型参数估计方法的探讨

一、引言经典线性回归分析的一个基本假定是模型的随机误差项之间互不相关,然而,对经济数据进行计量分析时,经常发生的问题是模型中误差项之间存在着序列相关。在误差项序列相关模型中最简单的一种是以下的自相关表示形式:Yt=α βXt μt(t=1,2,…,n)ut=ρut-1 εt|ρ|<1(1)其中εt满足经典假设条件E(εt)=0E(ε2t)=σ2εE(εtεs)=0(t≠s;t,s=1,2,…,n)(2)如果对式(1)直接使用最小二乘法(OLS法)进行参数估计,虽然OLS估计具有无偏性和一致性,但不具有有效性,不再是系数的最优估计。对此,通常采用的解决办法有两种①:第一种是广义最小二…     

基于特征值的多重共线性处理方法

一、多重共线性及其传统检验方法 对于多元线性回归模型Yj=b1Xlj+b2X2j+…+bkXkj+εj,(变量均已标准化)如果模型的自变量之间存在着较强的线性相关关系,或者说存在一组不全为零的常数a1、a2……,ak,使得:     

空间回归模型估计中的最小二乘法

空间回归模型由于引入了空间地理信息而使得其参数估计变得复杂,因为主要采用最大似然法,致使一般人认为在空间回归模型参数估计中不存在最小二乘法。通过分析空间回归模型的参数估计技术,研究发现,最小二乘法和最大似然法分别用于估计空间回归模型的不同的参数,只有将两者结合起来才能快速有效地完成全部的参数估计。数理论证结果表明,空间回归模型参数最小二乘估计量是最佳线性无偏估计量。空间回归模型的回归参数可以在估计量为正态性的条件下而实施显著性检验,而空间效应参数则不可以用此方法进行检验。     

Coob—Douglas生产函数参数的校正

Coob—Douglas生产函数Y=AK~(β_1)L(β_2)是反映经济现象的一个重要的数学模型。它的参数A、β_1、β_2估计的好坏,直接影响预测效果。关于参数估计的一般方法是通过曲线回归的直线化,用最小二乘法得到。即由样本所得信息建立样本回归方程=aK~(b_1)L~(b_2)做为=AK~(β_1)L~(β_2)的估计式,其中a、b_1、b_2分别是A、β_1、β_2的估计值。由于经济现象与时间相关密切,所以用(?)=aK~(b_1)L~(b_2)预测近期经济问题效果较好,而用它预测远期经济     

分片逆回归中不同方法的比较研究

在多元统计分析中,分片逆回归在处理降维问题时十分有效。假设因变量Y和p维解释变量X满足Y=f(β1TX,…,βkTX,ε),则可以通过分片逆回归估计由βi生成的子空间,从而达到降维的目的。其中涉及到对E[Cov(X|Y)]或Cov[E(X|Y)]的估计,对此Li(1991)、Zhu和Ng(1995)以及Tian和Li(2004)等人曾提出几种不同的估计方法。文章通过蒙特卡洛模拟对它们进行比较研究,发现Zhu和Ng的方法对函数形式不敏感,因而适用性较广;同时对Tian和Li(2004)的方法作了适当推广。     

线性回归模型几何分析:基于估计结果及检验统计量的考察

文章对普通最小二乘估计中形成的相关系数、回归系数、可决系数R2、F统计量,以及多重共线性问题作出几何分析,指出该分析方法表现为向量的长度和角度关系.这种分析过程使普通最小二乘法及估计结果变得更直观.     

非参数拟合及其应用

随着样本量的增大和复杂度的提高,蕴含的信息更加多样化,一般的参数拟合满足不了需求.非参数拟合应运而生,其中的样条拟合就是一个典型.通过构造样条函数,转化成向量表达式Y=Xβ+ε,依据参数估计中的最小二乘法求解出插值函数.结合理财产品收益率的相关数据,在投资方向结构型、期限结构、发行金额等几个方面,对三种不同风险系数的理财产品采用非参数拟合模型拟合三条收益率曲线,对比曲线趋势,对未来时刻进行分析预测.     

改进的最小二乘估计确定高精度参数模型

本文将2006年研究生数学建模竞赛进一步讨论,对于观测数据不准确的情况,先将模型转化为差分形式,用最小二乘估计方法对参数进行估计,当设计矩阵呈病态时,最小二乘估计变的不是很精确。为了提高参数估计的精确度,笔者提出了一种改进方法,对迭代矩阵进行Jacobi迭代预处理,再用最小二乘法进行求解,仿真结果表明预处理后的参数估计更为准确。     

分位数回归技术综述

普通最小二乘回归建立了在自变量X=x下因变量Y的条件均值与X的关系的线性模型。而分位数回归（Quantile Regression）则利用自变量X和因变量y的条件分位数进行建模。与普通的均值回归相比,它能充分反映自变量X对于因变量y的分布的位置、刻度和形状的影响,有着十分广泛的应用,尤其是对于一些非常关注尾部特征的情况。文章介绍了分位数回归的概念以及分位数回归的估计、检验和拟合优度,回顾了分位数回归的发展过程以及其在一些经济研究领域中的应用,最后做了总结。     

固定效应部分线性变系数面板模型的快速有效估计

本文将最小二乘支持向量机(LSSVM) 和二次推断函数法(QIF) 相结合，为个体内具有相关结构的固定效应部分线性变系数面板模型提供了一种新的快速估计方法；在一定的正则条件下，论证了参数估计量的渐近正态性和非参数估计量的收敛速度；采用Monte Carlo模拟考察了估计方法在有限样本下的表现并将估计技术应用于现实数据分析。该方法不仅保证了估计的有效性和统计推断力，而且程序运行速度得到较大幅度提升。     

为什么回归系数的估计值会有“错误”的符号？

当我们应用多元回归分析时 ,有时会遇到这样的问题 :从实际数据算出的某些回归系数的估计值的符号与从问题的专业知识或直观经验所得的结论相反。例如 ,在一具体问题中 ,根据问题的专业知识和经验 ,有足够的理由认为回归自变量Ｘ1的回归系数 β1是正的 ,可是实际算出的 β1的最小二乘估计 ^β1却是负的 ,这时称 ^β1具有“错误”的符号。其实应用回归分析处理实际问题的不少人遇到过这种情况。一般说来 ,下列情况都可能导致某些回归系数的估计具有“错误”符号 :( 1)某些自变量取值范围太窄 ;( 2 )模型中丢弃了若干重要自变量 ;( 3 )设计阵…     

基于正态模糊数回归分析模型的构建与评价

文章采用模糊最小二乘法,求解自变量为精确数、因变量和回归系数均是正态模糊数的一元线性模糊回归模型,证明所求得的模糊估计量具有的统计性质:线性性与无偏性.给出模糊回归模型的残差、残差平方和及拟合优度公式.将方法应用于一个实际问题,并与经典回归分析进行比较,验证了该参数估计方法的合理性与有效性.     

协整平滑转移回归中的线性检验 ——基于完全修正最小二乘法的扩展

 在解释变量内生条件下,Choi,Saikkonen(2004)使用动态最小二乘法估计协整平滑转移回归模型,并基于动态最小二乘的估计结果构造 统计量检验协整向量的非线性。本文系统解析了 的构造并指出其不足,针对这一不足,本文将动态最小二乘法扩展为完全修正的最小二乘法,并进而基于完全修正的最小二乘法估计结果构造 统计量检验协整向量的非线性。本文的仿真试验表明,在有限样本下, 与 的检验势没有显著差异,但 的水平扭曲小于 。     

基于一元线性回归模型异方差对加权最小二乘法的考察

作为普通最小二乘法的改进,加权最小二乘法用于存在异方差问题的线性回归模型的参数估计。文章通过对加权最小二乘估计量、加权最小二乘变换的分析,并结合实际例证研究发现,加权最小二乘法在应用中存在一些不足之处,因而当发现模型存在异方差时使用加权最小二乘法是存在风险的。     

解决多重共线性问题的线性回归方法

本文针对当出现多重共线性时用普通最小二乘法估计的参数值与实际值相去甚远 ,甚至无法被估计的现象 ,介绍了三种解决办法 :主成分回归、岭回归和偏最小二乘法。这三种方法在解决问题的思路上各有异同 ,本文着重介绍了它们的基本思想和主要处理步骤     

解决多重共线性问题的线性回归方法

本文针对当出现多重共线性时用普通最小二乘法估计的参数值与实际值相去甚远甚至无法被估计的现象 ,介绍了三种解决办法 :主成份回归、岭回归和偏最小二乘法。这三种方法在解决问题的思路上各有异同 ,本文着重介绍了它们的基本思想和主要算法步骤     

线性GMDH参数模型的无偏估计研究

 多元线性回归分析中,参数无偏性是参数估计方法的一个重要指标。本文对线性GMDH参数模型建立多元线性模型进行了研究,得到以下结论：一,在满足经典线性回归模型的假设条件下,其参数估计量具有无偏的性质;二,在满足其它假设条件下,可以在样本量少于待估参数的情况下建模,估计的参数也是无偏的;三,用参数GMHD方法建模时,它对完全多重共线性是免疫的。