国内刊号:32-1772/TN
国际刊号:1673-5439
发布日期:
作者:李准,宋媚,祝义
单位:江苏师范大学 计算机科学与技术学院,江苏 徐州 221116江苏师范大学 计算机科学与技术学院,江苏 徐州 221116江苏师范大学 计算机科学与技术学院,江苏 徐州 221116
关键词:深度学习;命名实体识别;大语言模型;提示学习;文本生成;少样本
基金:国家自然科学基金(71503108,62077029)和江苏师范大学科研与实践创新项目(2022XKT1533)资助项目
基于提示学习的方法在处理少样本句子级分类任务时效果较好,然而在处理字符级的命名实体识别任务时,现有采用枚举手动构建提示模板的方法效率低下且性能不稳定。针对此问题,提出基于两阶段网络和提示学习的少样本中文命名实体识别方法。第一阶段网络,创新性地引入文本生成模型 T5,利用提示学习的思想,将文本生成任务改造为完形填空的形式以自动生成提示模板; 第二阶段网络,使用当前主流的BERT-BiLSTM-CRF网络架构进行训练。通过消融实验,探讨了提示模板更合理的嵌入方式,在 Weibo、Resume和MSRA语料库上的实验结果F1值分别达到了73. 58%、96. 63%和95. 67%,在多组对比实验中效果均为最优,表明了该方法可有效提升少样本中文命名实体识别的效果。
来源:2024年第05期
《南京邮电大学学报(自然科学版)》期刊编辑部