国内刊号:32-1772/TN
国际刊号:1673-5439
发布日期:
作者:陈彬,杨秋勇,徐欢,唐力,李辉
单位:南方电网有限责任公司,广东 广州 510000南方电网有限责任公司,广东 广州 510000南方电网有限责任公司,广东 广州 510000云南电网有限责任公司,云南 昆明 650200云南电网有限责任公司,云南 昆明 650200
关键词:数据管理;人工智能;数据切片
基金:南方电网公司科技项目(0006200000084919)资助项目
随着人工智能(Artificial Intelligence, AI)技术应用的不断扩展,对建立AI模型所需数据提出了更高的质量要求。针对目前数据质量处理方法错误率高、速度慢的问题,提出了一种新的处理方法,以确定表现不佳的数据子集。首先,将AI模型数据集的划分定义为数据切片问题,如果AI模型在特定切片上性能较差则该切片为问题切片。其次,提出了决策树和点阵搜索两种数据切片方法。然后,通过假设检验进行问题切片识别和错误发现控制。最后,将基于聚类的数据切片方法作为对比基准,使用真实数据集和合成数据集评估所提方法,在数据切片大小、统计显著性和错误发现控制等多个方面的测试结果验证了所提方法的有效性。
来源:2025年第04期
《南京邮电大学学报(自然科学版)》期刊编辑部