国内刊号:32-1772/TN
国际刊号:1673-5439
发布日期:
作者:魏思言,许文嘉
单位:北京邮电大学 信息与通信工程学院,北京 100876北京邮电大学 信息与通信工程学院,北京 100876
关键词:大语言模型;监督微调;强化学习;3GPP;电信领域;知识问答
基金:国家自然科学基金(62301063)资助项目
为提升电信领域知识问答与通信协议解析的精度,解决传统方法依赖人工经验导致的泛化性差等问题,提出一种基于大语言模型的电信领域知识问答技术框架(Telecom?LLM)。使用Qwen2.5?7B模型作为基础架构,采用两阶段优化方法:引入基于LoRA的监督微调方法和基于GRPO的强化学习方法。此外,构建大规模3GPP标准文档开放式问答数据集3GPPQnA(涵盖3 000份技术文档,总规模超100万字)。结果表明,提出的Telecom?LLM在电信领域知识问答任务中,在 TeleQnA数据集上达到77.55%的准确率,在3GPPQnA数据集上取得59.01%的综合评分,相较基线模型提升显著。
来源:2025年第04期
《南京邮电大学学报(自然科学版)》期刊编辑部