半动态集成选择分类方法

计算机与现代化

半动态集成选择分类方法

1.陕西财经职业技术学院会计二系，陕西咸阳712000；2.陕西财经职业技术学院会计一系，陕西咸阳712000

收稿日期:2014-11-21 出版日期:2015-02-28 发布日期:2015-03-06
作者简介:李瑞(1979)，女，陕西礼泉人，陕西财经职业技术学院会计二系讲师，硕士，研究方向：软件工程；袁小玲（1980），女，陕西财经职业技术学院会计一系讲师，硕士，研究方向：软件工程。

Semidynamic Integration Selection Classification Method

1. The Second Accounting Department, Shaanxi Vocational College of Finance and Economics, Xianyang 712000, China; 
2. The First Accounting Department, Shaanxi Vocational College of Finance and Economics, Xianyang 712000, China

Received:2014-11-21 Online:2015-02-28 Published:2015-03-06

摘要/Abstract

摘要： 在集成学习领域，传统的动态集成选择需要为每一个样本选择子分类器组成集成分类器，这极大地增加了计算复杂度。针对这一问题，提出一种新的半动态集成选择方法。该方法分为两阶段，第一阶段为所有的测试样本选择最好的个体分类器组成一个集成分类器，第二阶段从剩余的个体分类器集合中为当前测试样本动态地选择子分类器组成一个集成分类器。最终的分类结果通过融合两阶段得到集成分类器的结果得到。通过对UCI数据测试的结果表明，该算法不仅能取得较好的分类性能，而且能极大地降低计算复杂度。

关键词: 集成学习, 选择性集成, 动态集成选择, 分类

Abstract: Traditional Dynamic Ensemble Selection (DES) in ensemble learning needs to select individual classifiers for all the test samples. However, it leads to highly computational cost. Due to this issue, a new Semi Dynamic Ensemble Selection (SemiDES) strategy is proposed in this paper, which consists of two stages. Individual classifiers are selected for all the test samples in the first stage. In the second stage, the classifiers for each test sample are selected dynamically. The final result is obtained by integrating the output of the two stages. The experimental results on UCI data set demonstrate the proposed method can obtain a better classification performance. Moreover, SemiDES can reduce the computational cost greatly.

Key words: , ensemble learning； selective ensemble； dynamic ensemble selection； classification

中图分类号:

TP311

李瑞1，袁小玲2. 半动态集成选择分类方法[J]. 计算机与现代化.

LI Rui1, YUAN Xiaoling2. Semidynamic Integration Selection Classification Method[J]. Computer and Modernization.

参考文献

［1］
Marques A I, Garcia V, Sanchez J S. Twolevel classifier ensembles for credit risk assessment［J］. Expert Systems with Applications, 2012,39(12):1024410250.
［2］Michelangelo Paci, Loris Nanni, Stefano Severi. An ensemble of classifier based on different texture descriptors for texture classification ［J］. Journal of King Saud UniversityScience, 2013,25(3):235244.
［3］Moumita Roy, Susmita Ghosh, Ashish Ghosh. A novel approach for change detection of remotely sensed images using semisupervised multiple classifier system［J］. Information Science, 2014,269(10):3547.
［4］慕昱，夏虹，刘永阔. 基于集成学习的核电站故障诊断方法［J］. 原子能科学技术, 2012,46(10):12541258.
［5］刘培，杜培军，谭琨. 一种基于集成学习和特征融合的遥感影像分类新方法［J］. 红外与毫米波学报, 2014,33(3):311317.
［6］Mordelet F, Vert J P. A bagging SVM to learn from positive and unlabeled examples［J］. Pattern Recognition Letters, 2014,37(1),201209.
［7］李明方，张化祥. 针对不平衡数据集的Bagging改进算法［J］. 计算机工程与应用, 2010,46(30):4042.
［8］Nicolas GarciaPedrajas, Aida de HaroGarcia. Boosting instance selection algorithm［J］. Knowledgebased Systems, 2014,67(9):342360.
［9］于玲，吴铁军. 集成学习：Boosting算法综述［J］. 模式识别与人工智能, 2004,17(1):5259.
［10］Le Zhang, Ponnuthrai Nagaratnam Suganthan. Random Forest with ensemble of feature spaces［J］. Pattern Recognition, 2014,47(10):34293437.
［11］杨明，王飞. 一种基于局部随机子空间的分类集成算法［J］. 模式识别与人工智能, 2012,25(4):595603.
［12］Zhou Zhihua, Wu Jianxin, Tang Wei. Ensembling neural networks: Many could be better than all［J］. Artificial Intelligence, 2002,137(12):239263.
［13］张春霞，张讲社. 选择性集成学习算法综述［J］. 计算机学报, 2011,34(8):13991410.
［14］Zhang Li, Zhou Weida. Sparse ensembles using weighted combination methods based on linear programming［J］. Pattern Recognition, 2011,44(1):97106.
［15］Margineantu D D, Dietterich T G. Pruning adaptive boosting［C］// Proceedings of the Fourteenth International Conference on Machine Learning. 1997:211218.
［16］Partalas I, Tsoumakas G, Vlahavas I. Pruning an ensemble of classifiers via reinforcement learning［J］. Neurocomputing, 2009,72(79):19001909.
［17］Albert H R Koa, Robert Sabourina, Alceu Souza Britto Jr. From dynamic classifier selection to dynamic ensemble selection［J］.Pattern Recognition, 2008,41(5):17181731.
［18］DeSouto M C P, Soares R G F, Santana A, et al. Empirical comparison of dynamic classifier selection methods based on diversity and accuracy for building ensembles［C］// Proceedings of the International Joint Conference on Neural Networks. 2008:14801487.
［19］Tomasz Woloszynski, Marek Kurzynski, Pawel Podsiadlo, et al. A measure of competence based on random classification for dynamic ensemble selection［J］. Information Fusion, 2012,13(3):207213.
［20］Newman D J, Hettich S, Blake C L, et al. UCI Repository of Machine Learning Databases［EB/OL］. http://www.ics.uci.edu/~mlearn/MLRepository.html, 20141121.

[1]	马国祥, 杨凌菲, 严传波, 张志豪, 孙彬, 王晓荣. 基于深度DenseNet网络的肝包虫病超声影像诊断方法[J]. 计算机与现代化, 2023, 0(09): 100-104.
[2]	王杰, 徐祥, 罗晓丹, 张萌, 黄澈, 洪冠中, 汪翔. 基于集成学习的巢湖面雨量计算方法[J]. 计算机与现代化, 2023, 0(09): 38-43.
[3]	龚云翔, 袁仕芳, 刘付谦. 基于集成学习与不平衡数据的返贫预测[J]. 计算机与现代化, 2022, 0(04): 12-16.
[4]	王磊, 宋波. 基于ADE-Stacking的心力衰竭非计划性再入院风险预测模型[J]. 计算机与现代化, 2022, 0(01): 23-27.
[5]	王继民, 季昌政, 李家欢, 曹颖. 基于集成学习的中小河流洪水预报[J]. 计算机与现代化, 2021, 0(05): 51-58.
[6]	王海, 江峰, 杜军威, 赵军. 过采样与集成学习方法在软件缺陷预测中的对比研究[J]. 计算机与现代化, 2020, 0(06): 83-.
[7]	李科心, 李静, 邵佳炜, 肖屹. 多层次序列集成的高维数值型异常检测[J]. 计算机与现代化, 2020, 0(06): 73-.
[8]	刘树艺，李静，胡春，王伟. 基于卷积神经网络与集成学习的交通标志识别[J]. 计算机与现代化, 2019, 0(12): 67-.
[9]	顾陈楠,曾晓勤 . 基于3D卷积神经网络的动态手势识别[J]. 计算机与现代化, 2019, 0(11): 75-.
[10]	乔媛，廖小平，邵开霞. 基于跳跃显露模式挖掘算法的癌症分类[J]. 计算机与现代化, 2018, 0(05): 100-.
[11]	雷武1,2，廖闻剑2，彭艳兵2. 基于随机森林与LambdaMART的搜索排序模型[J]. 计算机与现代化, 2017, 0(3): 54-.
[12]	刘意. 一种基于频繁子图的集成分类算法[J]. 计算机与现代化, 2017, 0(1): 32-35.
[13]	范引娣. 基于分布结构约束稀疏表示的图像分类方法[J]. 计算机与现代化, 2015, 0(7): 73-.
[14]	苏乐群，冯爱民. 代价敏感相关向量机[J]. 计算机与现代化, 2015, 0(2): 19-.