贝叶斯分位数回归组间组内变量选择及其应用

文章利用贝叶斯方法研究分位数回归的组间和组内双变量选择问题。基于偏态拉普拉斯分布和贝叶斯统计推断方法,结合组间和组内系数的Spike-and-Slab先验分布,提出了分位数回归的贝叶斯双层变量选择方法,并给出易于实施的Gibbs后验抽样算法。通过大量数值模拟和实证分析验证了所提变量选择方法的有效性。     

混合效应模型的非参数贝叶斯分位回归方法研究

本文对混合效应模型提出了一种非参数贝叶斯分位回归方法,通过引进一种新的分层有限正态混合分布,将分位回归建模时对随机误差项的假定放宽至仅有分位点约束之下.通过对混合比例参数假设广泛灵活的Stick-Breaking先验,使得模型捕捉复杂数据分布信息的能力更强.在建立的非参数贝叶斯分层分位回归模型中引入潜变量,使模型参数估计的Gibbs抽样算法中原来每次需要计算(2M)N项函数值变为每次只需计算N项即可.蒙特卡罗模拟显示,在误差分布函数变得较为复杂时,非参数贝叶斯分位回归方法比参数方法在估计效果上有更大的优势.     

基于正态-Gamma共轭先验分布的贝叶斯AR(p)预测模型

本文系统地分析了AR(P)时间序列模型的数学模型及其条件似然函数,并根据似然函数的统计结构构造了模型参数的共轭先验分布,研究了正态-Gamma先验分布情况下模型的贝叶斯推断理论,包括模型自回归系数和精度参数后验分布的统计推断、二次损失函数下参数的贝叶斯估计;同时,从统计数学方法上严格地证明了一步超前预测模型的预报分布为t分布.     

利用M-H算法求解Logistic回归模型参数的贝叶斯估计

文章以航天飞机在不同温度下发射密封圈的失效数据为例,采用随机游动与变量变换M-H算法获得Logistic回归模型参数的后验分布样本并进行贝叶斯分析.同时,进行蒙特卡洛模拟,通过样本轨迹图、直方图、自相关系数图等考查M-H算法的抽样表现,并讨论每种抽样方法的优缺点与提高措施.结果表明:先验分布的选取直接影响贝叶斯估计效果,有先验信息的M-H算法估计的标准差比无先验信息的M-H算法要精确,但随着样本容量增大,趋势在减少,适当的建议分布与变量变换可大大提高M-H算法的抽样效率.     

VaR模型后验测试的贝叶斯方法

本文提出了VaR模型后验测试的贝叶斯方法.以二项分布为参数统计模型,选取Beta分布为先验分布,给出了超参数的矩估计法.对于VaR模型的准确性检验,得到了贝叶斯因子和后验机会比的表达式.通过一个投资组合的实证分析,验证了本文所提方法的可行性与合理性.     

面板数据的自适应Lasso分位回归方法研究

如何在对参数进行估计的同时自动选择重要解释变量,一直是面板数据分位回归模型中讨论的热点问题之一。通过构造一种含多重随机效应的贝叶斯分层分位回归模型,在假定固定效应系数先验服从一种新的条件Laplace分布的基础上,给出了模型参数估计的Gibbs抽样算法。考虑到不同重要程度的解释变量权重系数压缩程度应该不同,所构造的先验信息具有自适应性的特点,能够准确地对模型中重要解释变量进行自动选取,且设计的切片Gibbs抽样算法能够快速有效地解决模型中各个参数的后验均值估计问题。模拟结果显示,新方法在参数估计精确度和变量选择准确度上均优于现有文献的常用方法。通过对中国各地区多个宏观经济指标的面板数据进行建模分析,演示了新方法估计参数与挑选变量的能力。     

基于逆跳MCMC的贝叶斯分位自回归模型研究

考虑到传统信息理论方法确定模型存在不足,在贝叶斯理论框架下提出了基于逆跳马尔可夫链蒙特卡罗法确定分位自回归模型阶次的方法。在时间序列服从非对称Laplace分布的条件下,设计了马尔可夫链蒙特卡罗数值计算程序,得到了不同分位数下模型参数的贝叶斯估计值。实证研究表明：基于逆跳马尔可夫链蒙特卡罗法的贝叶斯分位自回归模型能有效地揭示滞后变量对响应变量的位置、尺度和形状的影响。     

基于贝叶斯网稀疏结构学习的信用影响因素结构发现

面对海量高维信用数据,传统贝叶斯网络在刻画变量复杂结构和概率关系时遇到了挑战。尝试将基于multi-logit回归的离散贝叶斯网络稀疏方法用于个人信用影响因素结构关系的发现,实现从多维变量复杂关系中抓取重要结构关系;基于解路径探讨了用于结构发现的稀疏贝叶斯网络模型的选择标准,并比较了稀疏贝叶斯网络与经典贝叶斯网络结构学习的性能;结合领域先验知识进一步改进贝叶斯网络结构,定性分析多维变量存在的主要结构关系;在确定多维变量稀疏网络结构的基础上,采用贝叶斯后验估计获取模型参数,并利用贝叶斯网络推理定量分析关键变量对信贷客户类型的直接或间接影响。     

基于贝叶斯方法的比例数据分位数推断及其应用

为了尝试使用贝叶斯方法研究比例数据的分位数回归统计推断问题,首先基于Tobit模型给出了分位数回归建模方法,然后通过选取合适的先验分布得到了贝叶斯层次模型,进而给出了各参数的后验分布并用于Gibbs抽样。数值模拟分析验证了所提出的贝叶斯推断方法对于比例数据分析的有效性。最后,将贝叶斯方法应用于美国加州海洛因吸毒数据,在不同的分位数水平下揭示了吸毒频率的影响因素。     

含缺失数据的半参数模型的稳健估计

文章在响应变量随机缺失下,基于分位数回归研究了半参数模型的稳健估计问题。首先基于B样条基函数近似技术,将模型非参数函数的估计问题转化为样条系数向量估计问题;其次,在响应变量随机缺失下,提出了一种新的插补方法,对缺失的响应变量进行多重插补;再次,基于插补后的数据集,构造出新的分位数目标函数,得到模型非参数函数以及参数向量的稳健估计;最后给出了有效算法计算多重插补估计量。通过模拟研究验证了所提方法的有效性和稳健性。     

纵向数据下工具变量线性回归模型的经验似然推断

文章考虑纵向数据下工具变量线性回归模型,基于工具变量和二次推断函数方法,提出了回归参数的经验对数似然比统计量.在一些正则条件下,证明了所提出的经验对数似然比统计量渐近于标准卡方分布,由此构造兴趣参数的置信域.     

基于Dirichlet过程的非参数贝叶斯方法研究综述

基于Dirichlet过程的非参数贝叶斯方法将先验分布有效扩展到了非参数分布,并广泛应用于密度估计、分层线性模型、有序数据以及生存数据等领域的分析。由于理论和实际的需要,该方法不断发展。为此,文章综述了基于Dirichlet过程的非参数贝叶斯方法的构造、算法及其在不同理论框架下的最新进展,并展望了未来的几个发展方向。     

带线性约束的多元线性回归模型参数估计

本文首先构造线性约束条件下的多元线性回归模型的样本似然函数,利用Lagrange法证明其合理性。其次,从似然函数的角度讨论线性约束条件对模型参数的影响,对由传统理论得出的参数估计作出贝叶斯与经验贝叶斯的改进。做贝叶斯改进时,将矩阵正态-Wishart分布作为模型参数和精度阵的联合共轭先验分布,结合构造的似然函数得出参数的后验分布,计算出参数的贝叶斯估计;做经验贝叶斯改进时,将样本分组,从方差的角度讨论由子样得出的参数估计对总样本的参数估计的影响,计算出经验贝叶斯估计。最后,利用Matlab软件生成的随机矩阵做模拟。结果表明,这两种改进后的参数估计均较由传统理论得出的参数估计更精确,拟合结果的误差比更小,可信度更高,在大数据的情况下,这种计算方法的速度更快。     

半参数纵向模型的惩罚二次推断函数估计

针对纵向数据半参数模型E(y|x,t)=XTβ+f(t),采用惩罚二次推断函数方法同时估计模型中的回归参数β和未知光滑函数f(t)。首先利用截断幂函数基对未知光滑函数进行基函数展开近似,然后利用惩罚样条的思想构造关于回归参数和基函数系数的惩罚二次推断函数,最小化惩罚二次推断函数便可得到回归参数和基函数系数的惩罚二次推断函数估计。理论结果显示,估计结果具有相合性和渐近正态性,通过数值方法也得到了较好的模拟结果。     

超高维数据下部分线性可加分位数回归模型的变量选择

在超高维数据中,一方面,协变量的维数可能远远大于样本量,甚至随着样本量以指数级的速度增长;另一方面,超高维数据通常是异质的,协变量对条件分布中心的影响可能与他们对尾部的影响大不相同,甚至会出现重尾以及异常点的复杂情况。文章在协变量维度发散且为超高维的情况下研究了部分线性可加分位数回归模型的变量选择和稳健估计问题。首先,为了实现模型的稀疏性和非参数光滑性,引入了一种非凸Atan双惩罚,并采用分位迭代坐标下降算法来解决所提方法的优化问题。在选择适当正则化参数的情况下,证明了所提双惩罚估计量的理论性质。其次,通过模拟研究对所提方法的性能进行验证。模拟结果表明,所提方法比其他惩罚方法具有更好的表现,尤其是在数据存在重尾的情况下。最后,通过基于癌症筛查病人血液样本数据的实证来验证所提方法的实用性。     

空间滞后模型的贝叶斯估计

本文采用Bayes方法对空间滞后模型进行全面分析。在构建模型的贝叶斯框架时,对模型系数与误差方差分别选取正态先验分布和逆伽玛先验分布,这样以便获得参数的联合后验分布和条件后验分布。在抽样估计时,文章主要使用MCMC方法,同时还设计了一个简单随机游动Metropolis抽样器,以方便从空间权重因子系数的条件后验分布中进行抽样。最后应用所建议的方法进行数值模拟。     

纵向可加部分线性测量误差模型的渐近估计

基于纵向数据,研究参数部分协变量含有测量误差的可加部分线性测量误差模型的估计问题,提出了用于模型估计的偏差修正的二次推断函数方法,得到参数部分的估计结果具有相合性、渐近正态性,非参数可加函数的估计结果达到最优收敛速度。数值模拟和实例数据分析结果显示,该模型估计方法在同等条件下要优于广义估计方程方法。理论和数值结果显示,偏差修正的二次推断函数可以有效地处理测量误差和个体内相关性,是一个有效的纵向数据和测量误差数据分析工具,具有一定的理论和应用价值。     

面板数据的贝叶斯Elastic Net分位数回归方法及其应用研究

本文首次将Elastic Net这种用于高度相关变量的惩罚方法用于面板数据的贝叶斯分位数回归,并基于非对称Laplace先验分布推导所有参数的后验分布,进而构建Gibbs抽样。为了验证模型的有效性,本文将面板数据的贝叶斯Elastic Net分位数回归方法(BQR. EN)与面板数据的贝叶斯分位数回归方法(BQR)、面板数据的贝叶斯Lasso分位数回归方法(BLQR)、面板数据的贝叶斯自适应Lasso分位数回归方法(BALQR)进行了多种情形下的全方位比较,结果表明BQR. EN方法适用于具有高度相关性、数据维度很高和尖峰厚尾分布特征的数据。进一步地,本文就BQR. EN方法在不同扰动项假设、不同样本量的情形展开模拟比较,验证了新方法的稳健性和小样本特性。最后,本文选取互联网金融类上市公司经济增加值(EVA)作为实证研究对象,检验新方法在实际问题中的参数估计与变量选择能力,实证结果符合预期。     

联合均值和散度逆高斯回归模型的参数估计

逆高斯回归模型可用于分析正偏态数据,人们通常研究解释变量对其均值参数的影响,但往往忽略了对其散度参数的影响,文章则基于解释变量对均值和散度都有影响的前提,针对联合均值和散度逆高斯回归模型,探讨模型参数的极大似然估计问题。MM算法在优化问题上具有分离参数、降低目标函数的维度、简化求解过程等优点,将MM算法应用于联合均值和散度逆高斯回归模型,能将多元似然函数彻底分解为一系列一元函数之和,从而绕开了参数估计中的矩阵求逆问题。模拟研究表明,当数据量达到100时就能得到很好的估计效果;实证分析表明,理论研究在实际应用中具有可行性。     

零膨胀计数数据的联合建模及变量选择

零膨胀计数数据破坏了泊松分布的方差-均值关系，可由取值服从泊松分布的数据和取值为零(退化分布)的数据各占一定比例所构成的混合分布所解释。本文基于自适应弹性网技术， 研究了零膨胀计数数据的联合建模及变量选择问题.对于零膨胀泊松分布，引入潜变量，构造出零膨胀泊松模型的完全似然, 其中由零膨胀部分和泊松部分两项组成.考虑到协变量可能存在共线性和稀疏性，通过对似然函数加自适应弹性网惩罚得到目标函数,然后利用EM算法得到回归系数的稀疏估计量，并用贝叶斯信息准则BIC来确定最优调节参数.本文也给出了估计量的大样本性质的理论证明和模拟研究，最后把所提出的方法应用到实际问题中。