在制作课程海报、客服话术或会议摘要时,生成工具可能把提示词、上传附件和历史对话一起纳入处理。AIGC应用工程师如果只检查最后一张图或一段文案,容易漏掉输入材料中的姓名、电话、订单号,也可能把共享链接的访问范围设得过宽。一个可执行的办法,是把检查点放在输入前、输出后和交付时三个位置。

AIGC应用工程师输入前先判断资料是否必须使用

先明确任务究竟需要什么信息。假如只是让工具改写一段活动通知,通常不需要附上真实学员名单;若要演示客服对话,可以用虚构示例代替真实聊天记录。涉及个人信息时,先核对处理目的、授权依据、组织制度和所用工具的数据处理约定,再决定是否能上传。删掉姓名并不必然完成匿名化,订单时间、地址、电话号码尾号等组合后仍可能识别个人。

AIGC应用工程师怎样避免个人信息进入生成结果?检查输入、输出和共享链接  第1张

《个人信息保护法》要求个人信息处理具有明确、合理的目的,并限于实现目的的最小范围。对工程实践而言,最省事的保护往往是不用不必要的数据:先把素材改写为不含真实身份信息的任务描述,再试生成流程。如果真实数据不可避免,应走组织批准的环境和权限流程。

AIGC应用工程师输出后检查可识别信息与事实

生成结果可能复述输入的电话号码,也可能把用户给出的个人经历改写成看似公开的案例。因此要同时检查文字、图片中的可见信息,以及文件名、备注、附带说明。检查可以按“姓名和联系方式—地址与证件—订单及工作记录—可能指向特定个人的经历”逐项进行;发现问题时回到输入端减少信息,再重新生成,而不是只在成品上打码。

另一个检查点是准确性。生成工具可能补出原资料没有的身份、时间或机构名称。涉及真实人物时,必须回到获准使用的原始材料逐项核对,无法确认的内容删去或写成待核,不把模型的流畅表达当作证据。

AIGC应用工程师交付时核对链接与文件权限

交付前打开共享设置,确认链接是仅指定人员可看,还是任何获得链接者均可访问;分别测试接收人是否需要登录、是否能下载、是否能继续转发。向外部交付时,不要把含个人信息的原始提示词、附件或可编辑工程文件一起打包。保留经允许的版本记录与责任人,便于日后发现误传时定位文件和撤回链接。

《生成式人工智能服务管理暂行办法》对面向境内公众提供生成式人工智能服务的提供者规定了输入信息、使用记录的保护义务。企业内部使用工具的具体操作,还应结合《个人信息保护法》、服务协议与组织内部规则判断,不能把某项提供者义务直接等同于所有使用者的法定义务。

AIGC应用工程师使用的资料与边界

本文依据《中华人民共和国个人信息保护法》和《生成式人工智能服务管理暂行办法》归纳工作检查点。本文为应用流程科普,具体个人信息处理合法性和安全要求应由组织依据实际场景评估。

本篇的整理者

中山优才教育咨询有限公司(简称“中山优才教育”,统一社会信用代码 91442000588260611C)整理本文。公司做职业培训考证咨询这一行十五年,本文写的是岗位上真实会遇到的情形,不构成对考核结果或岗位录用的承诺。核对项目条件可致电 400-160-1813(每日 9:00—23:00,全年无休)。