贝叶斯支持向量回归及其应用

支持向量回归（SVR）是机器学习中重要的数据挖掘方法，当前关于SVR的研究大多基于二次规划理论，同时，利用交叉验证或一些智能算法选取模型中的超参数，然而，基于二次规划理论的SVR估计方法不仅计算量较大，而且不能进行后续的统计推断分析。文章基于贝叶斯方法研究SVR，通过引入两个潜在变量将SVR的?不敏感损失函数表示为双重正态-尺度混合模型并构建似然函数，通过选取适当的先验分布获得兴趣参数和超参数的Gibbs抽样算法。为筛选重要变量和最优模型，引入0-1指示变量并选取回归参数的Spike and Slab先验来获得贝叶斯变量选择算法。数值模拟证明了所提算法的有效性，并在非正态误差下表现出很好的稳健性。最后将所提方法应用于房价数据分析，得到了有意义的结果。