文本分类中特征权重算法改进研究

doi:10.3969/j.issn.1006-2475.2018.02.014

计算机与现代化

文本分类中特征权重算法改进研究

（西安工业大学计算机科学与工程学院,陕西西安710021)

收稿日期:2017-09-29 出版日期:2018-03-08 发布日期:2018-03-09
作者简介:李鹏鹏(1993-),男，山西临汾人,西安工业大学计算机科学与工程学院硕士研究生,研究方向:人工智能及应用；范会敏(1960-),女,陕西富平人,教授,硕士,研究方向:人工智能,专家系统。
基金资助:
陕西省科技厅工业攻关项目(2017GY-070)

Research on Improvement of Feature Weights in Text Classification

(School of Computer Science and Engineering， Xian Technological University， Xian 710021, China)

Received:2017-09-29 Online:2018-03-08 Published:2018-03-09

摘要/Abstract

摘要： 为了克服传统的TF-IDF（Term Frequency Inverse Document Frequency）算法分类F1值低的缺陷，利用特征词在类内和类间的分布信息，提出一种改进的TF-IDF-dist算法。实验结果表明，改进的算法在不同特征维度下F1值平均提升3.2%，结合不同特征选择算法，F1值平均提升2.75%，并且对倾斜数据集有更强的适应性，表明本文算法在文本分类中的有效性。

关键词: 机器学习, 文本分类, 特征权重, TF-IDF

Abstract: In order to overcome the shortcomings of traditional TF-IDF (Term Frequency Inverse Document Frequency) algorithm, the improved TF-IDF-dist algorithm is proposed by using the distribution of feature words. The experimental results show that the improved algorithm has an average increase of F1 value by 3.2% in the different feature dimensions. With the different feature selection algorithm, the F1 value is increased by 2.75% and the improved TF-IDF-dist algorithm has more adaptability on the imbalance datasets. It shows the validity of the algorithm in text classification.

Key words: machine learning, text classification, feature weights, TF-IDF

中图分类号:

TP306.1

李鹏鹏,范会敏. 文本分类中特征权重算法改进研究[J]. 计算机与现代化, doi: 10.3969/j.issn.1006-2475.2018.02.014.

LI Peng-peng， FAN Hui-min. Research on Improvement of Feature Weights in Text Classification[J]. Computer and Modernization, doi: 10.3969/j.issn.1006-2475.2018.02.014.

参考文献

［1］ Li Yongfei. A feature weight algorithm for text classification based on class information［C］// Advanced Materials Research Trans Tech Publications. 2013,756-759:3419-3422.
［2］彭时名. 中文文本分类中特征提取算法研究［D］. 重庆:重庆大学, 2006.
［3］〖JP2〗徐冬冬,吴韶波. 一种基于类别描述的TF-IDF特征选择方法的改进［J］. 现代图书情报技术, 2015(3):39-48.
［4］ Gautam J, Kumar E. An integrated and improved approach to terms weighting in text classification［J］. International Journal of Computer Science Issues, 2013,10(1):310-314.
［5］黄磊,伍雁鹏,朱群峰. 关键词自动提取方法的研究与改进［J］. 计算机科学， 2014,41(6):204-207.
［6］张玉芳,彭时名,吕佳. 基于文本分类TFIDF方法的改进与应用［J］. 计算机工程, 2006,32(19):76-78.
［7］ How B C， Narayanan K. An empirical study of feature selection for text categorization based on term weightage［C］// Proceedings of IEEE/WIC/ACM International Conference on Web Intelligence. 2004:599-602.
［8］施聪莺,徐朝军,杨晓江. TFIDF算法研究综述［J］. 计算机应用， 2009,29(S1):167-170.
［9］ Chen Keli, Zong Chengqing. A new weighting algorithm for linear classifier［C］// Proceedings of 2003 International Conference on Natural Language Processing and Knowledge Engineering. 2003:650-655.
［10］赵小华. KNN文本分类中特征词权重算法的研究［D］. 太原:太原理工大学， 2010.
［11］Aless R B, Moschitti A, Pazienza M T. A text classifier based on linguistic processing［C］// International Joint Conference on Artificial Intelligence. 1999.
［12］樊小超. 基于机器学习的中文文本主题分类及情感分类研究［D］. 南京:南京理工大学, 2014.
［13］Chen Chien-Hsing. Improved TFIDF in big news retrieval: An empirical study［J］. Pattern Recognition Letters, 2016,93(1):113-122.
［14］Chen Kewen, Zhang Zuping, Long Jun. Turning from TF-IDF to TF-IGM for term weighting in text classification［J］. Expert Systems With Applications Journal, 2016,66(C):245-260.
［15］郭正斌,张仰森,蒋玉茹. 一种面向文本分类的特征向量优化方法［J］. 计算机应用研究, 2017,34(8):2299-2302.

[1]	贾潇瑶, . 融合CatBoost和SHAP的乳腺癌预测及特征分析[J]. 计算机与现代化, 2023, 0(10): 32-38.
[2]	徐涯昕, 何泽恩, 徐绪堪. 基于CNN-BiLSTM网络的数控机床故障文本自动分类[J]. 计算机与现代化, 2023, 0(04): 7-14.
[3]	张芸, 白开峰, 王星, 仓甜, 周通, 段锦文, 苏晗. 智能电网环境下窃电行为检测[J]. 计算机与现代化, 2023, 0(03): 60-65.
[4]	石志伟, 武志峰, 张哲. 纠正学习策略下LightGBM-GRU模型的股票波动率预测[J]. 计算机与现代化, 2023, 0(01): 95-102.
[5]	关云鹏, 刘玉龙. 基于从共现矩阵提取关联的类别型数据聚类[J]. 计算机与现代化, 2022, 0(11): 1-8.
[6]	张军, 邱龙龙. 一种基于BERT和池化操作的文本分类模型[J]. 计算机与现代化, 2022, 0(06): 1-7.
[7]	关慧, 盛靖媛, 曹同洲. 一种基于改进TF-IDF的SQL注入攻击检测算法[J]. 计算机与现代化, 2022, 0(06): 122-126.
[8]	赵延平, 王芳, 夏杨. 基于支持向量机的短文本分类方法[J]. 计算机与现代化, 2022, 0(02): 92-96.
[9]	郭书武, 陈军华. 基于深度学习的教材德目分类方法[J]. 计算机与现代化, 2021, 0(09): 106-112.
[10]	冷涛, . 基于深度学习的加密流量分类研究综述[J]. 计算机与现代化, 2021, 0(08): 112-120.
[11]	贾澎涛, 孙炜. 基于深度学习的文本分类综述[J]. 计算机与现代化, 2021, 0(07): 29-37.
[12]	代继鹏, 邵峰晶, 孙仁诚. 基于改进CHI和TF-IDF的短文本分类的研究[J]. 计算机与现代化, 2021, 0(06): 6-11.
[13]	牛奉高, 闫涛. 特征加权的CLSVSM[J]. 计算机与现代化, 2021, 0(05): 59-65.
[14]	尼格拉木·买斯木江, 艾孜尔古丽·玉素甫. 基于BERT及双向GRU模型的慕课用户评论情感倾向性分析[J]. 计算机与现代化, 2021, 0(04): 20-26.
[15]	邓子云, . 一种为辅助诊断筛选机器学习模型的方法[J]. 计算机与现代化, 2021, 0(03): 88-93.

文本分类中特征权重算法改进研究

Research on Improvement of Feature Weights in Text Classification

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价