空间回归模型估计中的最小二乘法

空间回归模型由于引入了空间地理信息而使得其参数估计变得复杂,因为主要采用最大似然法,致使一般人认为在空间回归模型参数估计中不存在最小二乘法。通过分析空间回归模型的参数估计技术,研究发现,最小二乘法和最大似然法分别用于估计空间回归模型的不同的参数,只有将两者结合起来才能快速有效地完成全部的参数估计。数理论证结果表明,空间回归模型参数最小二乘估计量是最佳线性无偏估计量。空间回归模型的回归参数可以在估计量为正态性的条件下而实施显著性检验,而空间效应参数则不可以用此方法进行检验。     

基于偏最小二乘方法的信用评分模型

为了克服信用评分模型中自变量存在多重共线性的问题,文章引入了偏最小二乘思想,即采用限制预测值的偏最小二乘回归和偏最小二乘Logistic回归来创建信用评分模型。偏最小二乘法可以同时解释因变量和自变量的变异,在实际运用中更加符合信用评分模型的特点。实证研究的结果表明,利用这两种偏最小二乘模型创建的信用评分模型具有很好的准确性和稳定性。     

灰色GM（1，1）模型中参数估计的几种方法比较

文章介绍了灰色GM（1,1）模型中参数估计的最小二乘准则、全最小二乘准则、最小一乘准则和折扣最小一乘准则,并指出了它们的优缺点。将这四种方法分别用于递增序列、递减序列、振荡序列的灰色GM（1,1）模型参数估计中,并通过优化软件LINGO计算出相应的参数。最后,对建立的灰色GM（1,1）模型的精度进行了比较,结果显示：最小一乘准则和折扣最小一乘准则模型参数估计明显优于最小二乘准则、全最小二乘准则模型参数估计。     

改进的最小二乘估计确定高精度参数模型

本文将2006年研究生数学建模竞赛进一步讨论,对于观测数据不准确的情况,先将模型转化为差分形式,用最小二乘估计方法对参数进行估计,当设计矩阵呈病态时,最小二乘估计变的不是很精确。为了提高参数估计的精确度,笔者提出了一种改进方法,对迭代矩阵进行Jacobi迭代预处理,再用最小二乘法进行求解,仿真结果表明预处理后的参数估计更为准确。     

求解非线性多结构回归模型的加权最小二乘估计法

文章针对基于非线性多结构回归模型的参数估计问题,提出了带权值的最小二乘估计法;讨论并证明了最优加权的存在性和优越性;通过数值仿真分析比较,验证了此方法的精度.     

模糊线性回归模型的最小二乘方法

针对自变量和因变量皆模糊的数据系统中的回归分析问题,为避免自变量退化成数值变量时可能引致的估计误差增大而带来的问题,提出系统中引入模糊调整项的回归模型的一般结构,并运用基于模糊数间完备距离的最小二乘法研究模型解析表达式;利用水平截集概念将模糊多元回归模型转化成两个传统回归模型,根据模糊数间距离采用最小二乘法得到参数估计,给出员工工作绩效评估的算例说明方法的有效性,并结合Bootstrap方法的应用,研究回归参数所具有的随机不确定性动态变化。     

基于一元线性回归模型异方差对加权最小二乘法的考察

作为普通最小二乘法的改进,加权最小二乘法用于存在异方差问题的线性回归模型的参数估计。文章通过对加权最小二乘估计量、加权最小二乘变换的分析,并结合实际例证研究发现,加权最小二乘法在应用中存在一些不足之处,因而当发现模型存在异方差时使用加权最小二乘法是存在风险的。     

正交最小一乘回归系数估计的算法

文章对正交最小一乘方法的背景与原理进行了介绍,给出了线性模型参数估计算法和在MATLAB中的实现,通过计算机仿真说明了本文算法的正确性和正交最小一乘法较正交最小二乘法更具有稳健性.     

半参数模型中两步估计与最小二乘估计的比较

文章在MSE准则下对半参数模型中的参数的两步估计和最小二乘估计进行了比较,给出了参数的两步估计优于最小二乘估计的充分条件。     

关于统计学教学中"最小二乘法"的讲授

文章着重从动态数列分析、回归分析的有关模型参数估计以及相关分析中相关系数公式的推导中阐明“最小二乘法”的应用和讲授 ,并强调“最小二乘法”本身并不是一种模型预测方法 ,而是一种模型参数估计方法 ,并在推导皮尔逊的乘积动差法相关系数中得到应用     

基于惩罚最小二乘估计的长期用电量半参数预测模型

文章针对惩罚最小二乘估计的高精度特性,构建了基于惩罚最小二乘估计的半参数回归模型。并将指数平滑思想融入模型,对模型的误差序列进行趋势外推与大幅度外延预测。实证结果表明了所提方法的有效性。     

偏最小二乘回归的基本性质扩展与改进策略

偏最小二乘回归(PLS)应用价值广泛,在战略管理研究中,尤其是以企业样本为主要分析单位时,偏最小二乘回归良好的数学性质,如交叉有效性原则、对样本量需求小和对多重共线性诊断的优势等发挥得非常明显;同时偏最小二乘回归在组织与管理研究中也存在较明显的不足。文章针对这些不足,运用一个战略管理领域企业实地调研的实例对偏最小二乘回归的劣势进行了否证式的说明与论证。     

基于SSA-MGF的偏最小二乘回归预测模型

本文利用奇异谱分析和均生函数方法,对原始序列重构延拓作为自变量,原始序列作为因变量,建立偏最小二乘回归预测模型,并与主成分最小二乘回归预测模型比较分析.实例结果表明,该方法具有预测精度高、稳定好的特点.     

普通最小二乘法的几何分析

普通最小二乘估计法是在目标函数残差平方和的达到最小的条件下求得参数估计量,从向量的角度来说,普通最小二乘法将被解释变量分解成了相互正交的两部分,通过空间向量理论和几何分析方法,可以在欧氏空间内对普通最小二乘估计量进行求解,这种分析过程使普通最小二乘法变得更直观。     

两种修正生长曲线参数的最小二乘估计方法

文章提出了一种修正Logistic模型和修正Gompertz模型的分布参数估计方法,这种方法以最小二乘法为基础,推导求解分布参数的方程组.利用这两个曲线模型中有两个以线性形式出现的参数的特点,使同时求解四个参数的问题简化为只需要同时求解两个参数的问题,并给出求解这两个参数偶合的方程组的二重二分迭代法.预测实例表明,这种方法对于迭代初值的选取要求较低、求解速度快、精度高.此外,修正的生长模型更适合于拟合S形的数据,因而其适用范围比传统模型更广.     

MATLAB中方程组的解与回归模型的最小二乘估计

本文讨论了线性回归模型与线性方程组之间的内在联系与形式上的差异,基于MATLAB对线性方程组的解进行了扩展,指出超定方程组的近似解就是对应线性回归模型的最小二乘解,并且给出了实例和相应模拟程序.     

偏最小二乘回归在SPSS软件中的实现

偏最小二乘回归是第二代回归分析方法,目前已在各种领域得到广泛应用.文章通过详细介绍不同版本的SPSS软件中PLS模块的安装来说明偏最小二乘回归方法在SPSS软件中的实现,并结合实例进一步说明该方法的参数设置和结果的解释.实例分析表明:偏最小二乘回归能够解决变量间多重共线性问题,适合在样本数小于变量个数情形下对系统进行回归建模.     

线性模型中混合估计与最小二乘估计的新相对效率

文章讨论了当线性模型有一定的附加信息时,回归系数的混合估计与最小二乘估计的相对效率问题;在误差矩阵为正定矩阵时,给出了一种新的相对效率,并导出了它的上界.     

病态加权最小二乘混合模型的k-Liu估计解法

文章综合加权多源观测模型及最小二乘混合模型,组合两种有偏估计算法得到组合有偏估计算法。利用岭估计与Liu估计形成一种新的有偏估计——k-Liu估计,其可以抵抗法方程系数矩阵的病态性,同时可以有效降低参数估值的均方误差。通过构建目标函数导出k-Liu估计在病态最小二乘混合模型中参数的通用解式、均方误差式和协因数的计算式,推导出k-Liu估计中修正因子的计算式,通过广义交叉检核法确定岭参数。最后,通过多种估计法参与算例解算,得出k-Liu估计可以进一步提升混合最小二乘模型的解算精度。     

最小一乘准则在试验设计建模分析中的应用

本文分析了应用最小二乘准则进行试验设计建模分析所存在的局限,给出了利用NM单纯型法迭代求解最小一乘参数估计的算法,并将最小一乘法应用到试验设计的建模分析中。