基于余弦相似度的边界样本选择方法

doi:10.3969/j.issn.1006-2475.2017.08.014

计算机与现代化

基于余弦相似度的边界样本选择方法

中国民航大学计算机科学与技术学院，天津300300

收稿日期:2017-01-03 出版日期:2017-08-31 发布日期:2017-09-01
作者简介:李春利（1964-），男，黑龙江哈尔滨人，中国民航大学计算机科学与技术学院副教授，博士，研究方向：模式识别；柳振东（1992-），男，硕士研究生，研究方向：模式识别；惠康华（1982-），男，讲师，博士，研究方向：模式识别。
基金资助:
中国民航大学科研启动基金资助项目（2010QD10X）

Boundary Sample Selection Method Based on Cosine Similarity

School of Computer Science and Technology, Civil Aviation University of China, Tianjin 300300, China

Received:2017-01-03 Online:2017-08-31 Published:2017-09-01

摘要/Abstract

摘要： 卷积神经网络模型的训练通常需要大量的训练样本，导致训练时间过长。针对这一问题，本文提出一种基于余弦相似度的边界样本选择方法，选取边界样本构造训练集。通过该方法分别对MNIST，CIFAR10，SVHN数据集进行样本选择，利用卷积神经网络分类器进行实验研究。实验结果表明：该方法能够保留训练集中的典型样本，剔除冗余样本，从而减少训练样本的数量，缩短网络训练时间，提高网络学习效率。

关键词: , 深度学习, 卷积神经网络, 模式识别, 边界数据, 图像识别, 样本选择

Abstract:
Abstract: The training of convolution neural network usually requires a lot of training samples, which causes the training time be too long. To solve this problem, this paper presents a boundary sample selection method based on cosine similarity. We select boundary samples as the training set of convolution neural network, and carry out example selection experiment on the MNIST, CIFAR10 and SVHN data sets. Then a convolutional neural network is used to carry out experiments. Experimental results show that this method can preserve the typical samples in the training set and eliminate redundant samples. Thereby, the number of training samples is reduced, the network training time is shortened and the learning efficiency of network is improved.

Key words: deep learning, convolutional neural network, pattern recognition, boundary data, image recognition, sample selection


中图分类号:

TP301.6

李春利，柳振东，惠康华. 基于余弦相似度的边界样本选择方法[J]. 计算机与现代化, doi: 10.3969/j.issn.1006-2475.2017.08.014.

LI Chunli， LIU Zhendong， HUI Kanghua. Boundary Sample Selection Method Based on Cosine Similarity[J]. Computer and Modernization, doi: 10.3969/j.issn.1006-2475.2017.08.014.

参考文献

［1］张莉,郭军. 基于边界样本的训练样本选择方法［J］. 北京邮电大学学报, 2006,29(4):77-80.
［2］任俊玲. 基于广义置信度的样本选择算法［J］. 中文信息学报, 2007,21(3):106-110.
［3］姜文瀚,周晓飞,杨静宇. 基于样本选择的最近邻凸包分类器［J］. 中国图象图形学报, 2008,13(1):114-118.
［4］郝红卫，蒋蓉蓉. 基于最近邻规则的神经网络训练样本选择方法［J］. 自动化学报, 2007,33(12):1247-1251.
［5］周玉,朱安福,周林,等. 一种神经网络分类器样本数据选择方法［J］. 华中科技大学学报（自然科学版）, 2012,40(6):39-43.
［6］ Lyhyaoui A, Martinez M, Mora I, et al. Sample selection via clustering to construct support vectorlike classifiers［J］. IEEE Transactions on Neural Networks, 1999,10(6):1474-1481.
［7］ Hara K, Nakayama K. A training method with small computation for classification［C］// Proceedings of the IEEEINNSENNS International Joint Conference on Neural Networks. 2000,3:543-548.
［8］ Guan Donghai, Yuan Weiwei, Lee Y K, et al. Improving supervised learning performance by using fuzzy clustering method to select training data［J］. Journal of Intelligent & Fuzzy Systems, 2008,19(4):321-334.
［9］ Xu Zhao, Yu Kai, Tresp V, et al. Representative sampling for text classification using support vector machines［M］// Lecture Notes in Computer Science. Springer Berlin Heidelberg, 2003,2633:393-407.
［10］Baum E, Haussler D. What size net gives valid generalization?［M］// Advances in Neural Information Processing Systems. Morgan Kaufmann Publishers, 1989:81-90.
［11］Bouvrie J. Notes on Convolutional Neural Networks［EB/OL］. http://cogprints.org/5869/, 2017-01-03.
［12］Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks［C］// Proceedings of the 25th International Conference on Neural Information Processing Systems. 2012:1097-1105.
［13］Zeiler M D, Fergus R.Stochastic pooling for regularization of deep convolutional neural networks［J］. Eprint Arxiv, 2013.
［14］Lécun Y, Bottou L, Bengio Y, et al. Gradientbased learning applied to document recognition［J］. Proceedings of the IEEE, 1998,86(11):2278-2324.
［15］Vedaldi A, Lenc K.MatConvNet: Convolutional neural networks for MATLAB［C］// Proceedings of the 23rd ACM International Conference on Multimedia. 2015:689-692.
［16］Krizhevsky A. Learning Multiple Layers of Features from Tiny Images［EB/OL］. https://core.ac.uk/display/21817232, 2012-05-08.
［17］Netzer Y, Wang Tao, Coates A, et al. Reading digits in natural images with unsupervised feature learning［C］// Nips Workshop on Deep Learning & Unsupervised Feature Learning. 2010.

[1]	胡崇佳, 刘金洲, 方立. 基于无监督域适应的室外点云语义分割[J]. 计算机与现代化, 2024, 0(01): 74-79.
[2]	林威. 基于自监督学习和数据回放的新闻推荐模型增量学习方法[J]. 计算机与现代化, 2023, 0(12): 1-6.
[3]	周成诚, 曾庆军, 杨康, 胡家铭, 韩春伟. 基于高效通道注意力模块的运动想象脑电识别[J]. 计算机与现代化, 2023, 0(12): 19-23.
[4]	梁天恺, 黄康华, 刘凯航, 兰岚, 曾碧. 基于双向同态加密的深度联邦图片分类方法[J]. 计算机与现代化, 2023, 0(12): 36-40.
[5]	邱凯星, 冯广. 基于双重特征注意力的多标签图像分类模型[J]. 计算机与现代化, 2023, 0(12): 41-47.
[6]	张伯泉, 麦海鹏, 陈嘉敏, 逄锦聚. 基于高灰度值注意力机制的脑白质高信号分割[J]. 计算机与现代化, 2023, 0(12): 67-75.
[7]	马泽宇, 叶宁, 徐康, 王甦, 王汝传, . 基于FMCW雷达和ResNeSt-GRU的行为识别方法[J]. 计算机与现代化, 2023, 0(11): 101-107.
[8]	李延满, 王必恒, 赵羚焱. 基于轻量化YOLOv5的安全帽检测[J]. 计算机与现代化, 2023, 0(10): 59-64.
[9]	黎世达, 项剑文. 一种提高图像识别模型鲁棒性的弱化强化方法[J]. 计算机与现代化, 2023, 0(10): 70-76.
[10]	沈加炜, 陆一鸣, 陈晓艺, 钱美玲, 陆卫忠, . 基于深度学习的人体行为检测方法研究综述[J]. 计算机与现代化, 2023, 0(09): 1-9.
[11]	刘付琪, 张达, 宋建华, 王海东. 基于CNN-BiLSTM的液压系统故障诊断[J]. 计算机与现代化, 2023, 0(09): 10-19.
[12]	吴甜, 刘海华, 童顺延. 基于深度反馈的卷积神经网络的图像分类[J]. 计算机与现代化, 2023, 0(09): 82-86.
[13]	刘禅奕, 黄丹, 薛林雁, 王涛, 朱桃, . 改进EfficientNet网络的COVID-19 X光分类[J]. 计算机与现代化, 2023, 0(09): 94-99.
[14]	马国祥, 杨凌菲, 严传波, 张志豪, 孙彬, 王晓荣. 基于深度DenseNet网络的肝包虫病超声影像诊断方法[J]. 计算机与现代化, 2023, 0(09): 100-104.
[15]	农皓程, 任德均, 任秋霖, 刘澎笠, 黄德成. 基于改进ConvNeXt的软塑包装表面异常检测算法[J]. 计算机与现代化, 2023, 0(08): 12-17.

基于余弦相似度的边界样本选择方法

Boundary Sample Selection Method Based on Cosine Similarity

可视化

被引次数

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价