一批训练数据完成标注,并不意味着可以直接投入模型训练。人工智能训练工程师更需要回答三个问题:标签的含义是否一致,困难样本如何处理,质量问题能否追溯。以下以文本分类项目为例,给出一套可复用的检查方法;具体阈值应由项目团队根据用途和风险确定。
人工智能训练工程师先检查标注说明能否被不同人一致执行
假设任务是把客户留言分为“咨询”“投诉”“建议”。先从已标注数据里抽取含有多种意图的留言,例如“咨询退款流程,同时反映等待时间过长”。标注说明若只列出三个标签,却未规定多意图时的优先顺序、是否允许多标签、无法判断时如何退回,标注人员就可能作出不同选择。此时应先补充判定规则和正反例,再继续验收,而不是只要求标注人员重做。
抽样不能只看平均正确率
把样本按类别、来源、时间和难度分层查看。常见类别样本很多,容易把少量关键类别的问题淹没;新渠道、低频业务词、长文本及含错别字的留言尤其值得单独抽查。记录每一层的抽样量、争议量和错误类型,才能判断问题是局部的还是贯穿整批数据。国家数据局有关高质量数据集建设的文件强调标注、质量管理和安全管理;这些要求提醒项目团队同时关注数据来源和后续使用条件。
争议样本要形成可追溯的决定
对争议样本保留原文编号、原标签、复核意见、最终标签和规则版本。复核人员意见不同时,交由熟悉业务边界的人给出判定依据,并把结论回写到标注说明。若只是改动最终标签而没有更新规则,同类分歧会在下一批再次出现。对涉及个人信息、商业秘密的数据,还应先核对授权、脱敏及访问范围,不应把真实敏感文本直接放进公开演示材料。
交付时给出一页质量说明
质量说明至少写清数据用途、来源范围、标注规则版本、抽样办法、主要分歧、已修订项目和未解决限制。若计划用于评测,应单独核对评测样本是否混入训练过程,并说明评测集的形成方式。这样,模型效果发生变化时,团队能回到数据、规则和版本定位原因,而不把所有问题笼统归为“模型不稳定”。
参考依据:国家数据局《关于推进行业高质量数据集建设行动的实施方案》;全国标准信息公共服务平台《高质量数据集 数据标注要求》标准项目信息。本文中的抽样步骤为项目工作建议,不能替代适用标准、数据处理制度或项目验收约定。
本文整理与核对
整理:中山优才教育咨询有限公司。公司以职业培训考证咨询为主业,不颁发证书,考核与发证由对应发证单位办理。文中的条件、周期、查询入口均按发证单位当期公开资料核对,如有调整以最新通知为准。咨询 400-160-1813(每日 9:00—23:00,全年无休)。公司统一社会信用代码 91442000588260611C,可在国家企业信用信息公示系统自行核对。








