贝叶斯支持向量回归及其应用 |
| |
作者姓名: | 林芳逗 赵为华 张日权 |
| |
作者单位: | 1. 南通大学理学院;2. 上海对外经贸大学统计与信息学院 |
| |
基金项目: | 国家社会科学基金资助项目(22BTJ025);;国家自然科学基金资助项目(11971171); |
| |
摘 要: | 支持向量回归(SVR)是机器学习中重要的数据挖掘方法,当前关于SVR的研究大多基于二次规划理论,同时,利用交叉验证或一些智能算法选取模型中的超参数,然而,基于二次规划理论的SVR估计方法不仅计算量较大,而且不能进行后续的统计推断分析。文章基于贝叶斯方法研究SVR,通过引入两个潜在变量将SVR的?不敏感损失函数表示为双重正态-尺度混合模型并构建似然函数,通过选取适当的先验分布获得兴趣参数和超参数的Gibbs抽样算法。为筛选重要变量和最优模型,引入0-1指示变量并选取回归参数的Spike and Slab先验来获得贝叶斯变量选择算法。数值模拟证明了所提算法的有效性,并在非正态误差下表现出很好的稳健性。最后将所提方法应用于房价数据分析,得到了有意义的结果。
|
关 键 词: | 支持向量回归 贝叶斯变量选择 Gibbs抽样 Spike and Slab先验 |
|