基于语义特征融合的作文自动评分方法

doi:10.3969/j.issn.1006-2475.2024.06.002

计算机与现代化 ›› 2024, Vol. 0 ›› Issue (06): 8-13.doi: 10.3969/j.issn.1006-2475.2024.06.002

基于语义特征融合的作文自动评分方法

（新疆师范大学计算机科学技术学院，新疆乌鲁木齐 830054）

出版日期:2024-06-30 发布日期:2024-07-17
作者简介:袁航（1999—），男，河南周口人，硕士研究生，研究方向：自然语言处理，作文评分，E-mail：y503744685@163.com；杨勇（1979—），男，陕西汉中人，教授，博士，研究方向：自然语言处理、软件工程，E-mail：68523593@qq.com；任鸽（1986—），女，河南兰考人，副教授，研究方向：数据挖掘，网络信息安全，E-mail：236789497@qq.com；通信作者：帕力旦·吐尔逊（1970—），女（维族），新疆乌鲁木齐人，副教授，博士，研究方向：多模态信息处理，E-mail：pldtrs@xjnu.edu.cn。
基金资助:
新疆维吾尔自治区自然科学基金项目（2021D01B72）；国家自然科学基金资助项目（62167008，62066044）

Automatic Scoring Method for Composition Based on Semantic Feature Fusion

（School of Computer Science and Technology， XinJiang Normal University， Urumqi 830054， China）

Online:2024-06-30 Published:2024-07-17

摘要/Abstract

摘要： 摘要：作文自动评分技术是一种利用机器学习进行自然语言处理的技术。目前，基于深度学习的端到端模型在作文自动评分领域已经广泛使用。然而，由于端到端模型难以获取不同特征之间的相关性，因此提出一种基于语义特征融合的作文自动评分方法（TSEF）。该方法主要分为特征提取和特征融合2个阶段。特征提取阶段，使用Bert模型对输入文本进行预训练，并使用多头注意力机制对输入文本进行自训练，以补充预训练的不足；特征融合阶段，使用交叉融合方法将获取的不同特征融合，以此获得更好性能的模型。在实验中，将TSEF与许多强基线进行比较，结果表明了本文方法的有效性和稳健性。

关键词: 关键词：作文自动评分, 自训练, 预训练, 交叉融合

Abstract:
Abstract: Automatic composition scoring technology is a kind of natural language processing technology using machine learning. At present， end-to-end models based on deep learning have been widely used in the field of automatic essay scoring. However， because of the difficulty in obtaining correlations between different features in end-to-end models， Automatic Scoring Method for Composition Based on Semantic Feature Fusion （TSEF） has been proposed. This method is mainly divided into two stages: feature extraction and feature fusion. In the feature extraction stage， the Bert model is used to pre-train the input text， and a multi-head-attention mechanism is used to self-train the input text to supplement the shortcomings of pre-training; In the feature fusion stage， cross fusion methods are used to fuse the different features obtained in order to obtain a better performance model. In the experiment， TSEF was compared with many strong baselines， and the results demonstrated the effectiveness and robustness of our method.

Key words: Key words: automatic grading of essays, self-training, pre-training, cross fusion

中图分类号:

TP391

袁航, 杨勇, 任鸽, 帕力旦·吐尔逊. 基于语义特征融合的作文自动评分方法[J]. 计算机与现代化, 2024, 0(06): 8-13.

YUAN Hang, YANG Yong, REN Ge, Palidan Turson. Automatic Scoring Method for Composition Based on Semantic Feature Fusion[J]. Computer and Modernization, 2024, 0(06): 8-13.

参考文献

［1］吴会芹. 用现代化手段辅助语言测试［J］. 外语电化教学， 2006（3）：49-53.
［2］ BURSTEIN J， KUKICH K， WOLFF S， et al. Automated scoring using a hybrid feature identification technique［C］// The 36th Annual Meeting of the Association for Computational Linguistics and the 17th International Conference on Computational Linguistics. ACL， 1998，1:206-210.
［3］崔建鹏. 自动作文评分的关键技术研究［D］. 成都：电子科技大学， 2020.
［4］ SUN J M， HE W T， WANG L F， et al. COVID-19: Epidemiology， evolution， and cross-disciplinary perspectives［J］. Trends in Molecular Medicine， 2020，26（5）:483-495.
［5］ VALENTI S， NERI F， CUCCHIARELLI A. An overview of current research on automated essay grading［J］. Journal of Information Technology Education: Research， 2003，2（1）:319-330.
［6］付瑞吉，王栋，王士进，等. 面向作文自动评分的优美句识别［J］. 中文信息学报， 2018，32（6）:88-97.
［7］ CHEN M， LI X. Relevance-based automated essay scoring via hierarchical recurrent model［C］// 2018 International Conference on Asian Language Processing （IALP）. IEEE， 2018:378-383.
［8］ ALIKANIOTIS D， YANNAKOUDAKIS H， REI M. Automatic text scoring using neural networks［C］// Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics. ACL， 2016，1:715-725.
［9］ MAYFIELD E， ADAMSON D， WOODS B， et al. Beyond automated essay scoring: Forecasting and improving outcomes in middle and high school writing［C］// Companion Proceedings of the 8th International Conference on Learning Analytics and Knowledge. ACM， 2018:1-8.
［10］李琳，董璐璐，马洪超. 基于 BERT 的汉语作文自动评分研究［J］. 中国考试， 2022，5:73-80.
［11］ BROWN T， MANN B， RYDER N， et al. Language models are few-shot learners［J］. arXiv preprint arXiv：2005.14165，
2020.
［12］ KENTON J D M W C， TOUTANOVA L K. BERT: Pre-training of deep bidirectional transformers for language understanding［C］// Proceedings of NAACL-HLT. ACL， 2019:4171-4186.
［13］ YANG X， FENG S， ZHANG Y， et al. Multimodal sentiment detection based on multi-channel graph neural networks［C］// Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing. ACL， 2021，1:328-339.
［14］ YANG R， CAO J， WEN Z， et al. Enhancing automated essay scoring performance via fine-tuning pre-trained language models with combination of regression and ranking［C］// 2020 Findings of the Association for Computational Linguistics: EMNLP. ACL， 2020:1560-1569.
［15］刘明杨，秦兵，刘挺. 基于文采特征的高考作文自动评分［J］. 智能计算机与应用， 2016，6（1）：1-4.
［16］蔡黎，彭星源，赵军. 少数民族汉语考试的作文辅助评分系统研究［J］. 中文信息学报， 2011，25（5）:120-126.
［17］周明，贾艳明，周彩兰，等. 基于篇章结构的英文作文自动评分方法［J］. 计算机科学， 2019，46（3）:234-241.
［18］杨正祥，刘杰，袁克柔，等. 作文段落句间逻辑合理性等级评测［J］. 计算机应用与软件， 2019，36（9）:175-180.
［19］ DONG F， ZHANG Y， YANG J. Attention-based recurrent convolutional neural network for automatic essay scoring［C］// Proceedings of the 21st Conference on Computational Natural Language Learning. ACL， 2017:153-162.
［20］ TAY Y， PHAN M， TUAN L A， et al. Skipflow: Incorporating neural coherence features for end-to-end automatic text scoring［C］// Proceedings of the 2018 AAAI Conference on Artificial Intelligence. AAAI Press， 2018，32（1）.
［21］ LIU J， XU Y， ZHU Y. Automated essay scoring based on two-stage learning［J］. arXiv preprint arXiv:1901.07744， 2019.
［22］周险兵，樊小超，任鸽，等. 基于多层次语义特征的英文作文自动评分方法［J］. 计算机应用， 2021，41（8）:2205-2211.
［23］ RODRIGUEZ P U， JAFARIA， ORMEROD C M. Language models and automated essay scoring［J］. arXiv preprint arXiv：1909.09482，2019.
［24］ LI X， CHEN M， NIE J Y. SEDNN: Shared and enhanced deep neural network model for cross-prompt automated essay scoring［J］. Knowledge-Based Systems， 2020，210:106491.
［25］ ORMEROD C M， MALHOTRA A， JAFARI A. Automated essay scoring using efficient transformer-based language models［J］. arXiv preprint arXiv:2102.13136， 2021.
［26］陈建林. 大规模英语考试作文评分标准效度验证［J］. 中国考试， 2016（1）:29-38.
［27］ JIN C， HE B， HUI K， et al. TDNN: A two-stage deep neural network for prompt-independent automated essay scoring［C］// Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics. ACL， 2018（1）:1088-1097.
［28］ TASHU T M， MAURYA C K， HORVATH T. Deep learning architecture for automatic essay scoring［J］. arXiv preprint arXiv:2206.08232， 2022.
［29］ ZHOU X， YANG L， FAN X， et al. Self-training vs pre-trained embeddings for automatic essay scoring［C］// Information Retrieval: The 27th China Conference. Springer， 2021:155-167.
［30］王菲. 大学英语作文自动评分系统（AES）的实证研究［J］. 科教文汇， 2014 （11）:99-100.
［31］梁茂成，文秋芳. 国外作文自动评分系统评述及启示［J］. 外语电化教学， 2007（5）:18-24.

[1]	李璐, 朱焱. 基于知识提示微调的事件抽取方法[J]. 计算机与现代化, 2024, 0(07): 36-40.
[2]	张可1, 艾中良2, 刘忠麟3, 顾平莉1, 刘学林4. 基于多元组匹配损失的司法论辩理解方法[J]. 计算机与现代化, 2024, 0(06): 115-120.
[3]	王浩畅, 刘如意. 基于预训练模型的关系抽取研究综述[J]. 计算机与现代化, 2023, 0(01): 49-57.
[4]	黄忠祥, 李明. ALBERT结合双向网络的文本分类[J]. 计算机与现代化, 2022, 0(10): 8-12.
[5]	张紫芸, 王文发, 马乐荣, 丁苍峰. 文本摘要模型的研究进展[J]. 计算机与现代化, 2022, 0(06): 56-66.
[6]	卢悦, 曹春萍. 融合用户历史传播信息的微博谣言检测[J]. 计算机与现代化, 2022, 0(06): 37-42.
[7]	刘锟, 曾曦, 邱梓珩, 陈周国, . 基于RoBERTa-WWM 和HDBSCAN的文本聚类算法[J]. 计算机与现代化, 2022, 0(03): 48-52.
[8]	王浩畅, 孙孟冉, 赵铁军. 基于ELMO的低资源神经机器翻译[J]. 计算机与现代化, 2021, 0(07): 38-42.
[9]	曲建岭，杜辰飞，邸亚洲，高峰，郭超然. 深度自动编码器的研究与展望[J]. 计算机与现代化, 2014, 0(8): 128-134.

基于语义特征融合的作文自动评分方法

Automatic Scoring Method for Composition Based on Semantic Feature Fusion

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 9

编辑推荐

Metrics

本文评价