“技术标准+管理制度”规范人工智能发展

　　近日，国家网信办联合多部门发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自9月1日起施行。

图片来源于网络，如有侵权，请联系删除

　　生成式人工智能、深度合成等新技术快速发展，为生成合成文本、图片、音视频等提供了便利工具，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。

图片来源于网络，如有侵权，请联系删除

　　国家网信办有关负责人表示，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地。同时，减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。

　　探索显隐双标识机制

　　“生成合成内容标识已成为国际惯例。”公安部第三研究所副所长金波介绍，欧盟《人工智能法》、美国《编辑和深度伪造内容来源保护完整性法案》、英国《人工智能（监管）法案》等均对水印、标识义务有要求。在我国，2023年1月施行的《互联网信息服务深度合成管理规定》提出针对文本、图像、音频、视频、虚拟场景等信息内容的标识要求，2023年8月施行的《生成式人工智能服务管理暂行办法》承袭相关规定。

　　此次《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

　　《标识办法》要求，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识；服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识；提供网络信息内容传播服务的服务提供者应当采取技术措施，规范生成合成内容传播活动。

　　“我国迄今已备案生成式人工智能产品300余款，生成合成服务3000余个，有力推动了人工智能行业的快速发展。”国家计算机网络应急技术处理协调中心正高级工程师张震表示，《标识办法》是对我国人工智能算法治理体系的进一步完善。

　　实现全链条治理

　　《标识办法》明确，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求服务提供者说明是否提供人工智能生成合成服务。

　　对此，张震谈到，《标识办法》明确了文本、图像、音频、视频等多模态的标识要求，将安全治理深入到内容模态层面，并创新性地将传播平台纳入监管范畴，实现从生成到传播的全链条治理。

　　值得注意的是，配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）将于9月1日同步实施，以更好指导相关主体规范开展标识活动。

　　“这开创了技术标准与管理制度配合实施的新型治理模式，标志着我国人工智能安全治理迈入‘技管双强’的新阶段。”中国电子技术标准化研究院副院长范科峰认为，二者协同发布，破解了以往治理中管理规范与技术标准衔接不畅的问题。

　　在他看来，作为我国人工智能领域首部“办法+强标”组合拳，其在管理维度明确生成、传播、分发全链条主体责任，在监管维度建立审核、监测、追责的闭环机制，在技术维度规范显隐标识体系并预留创新空间，这种三位一体的治理架构为人工智能安全治理提供了清晰的实施路径。（记者 崔 爽）