今日要闻!【法治护我心】眼见真的为“实”？NO！探寻深度合成乱象破解之道

【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

光明网记者 李飞 孔繁鑫

(资料图片)

近年来，不少“AI换脸”“魔法变声”类应用走红网络；影像修复让影视爱好者得以重温高清的老电影；电商直播、影视动画、文化传媒等日常生活场景中，虚拟数字人已经广泛应用……深度合成类技术竟这般“神奇”。

作为人工智能领域的新型“黑科技”，得益于人工智能技术的不断发展与开放，深度合成技术以其较低的应用门槛、较强的娱乐属性、丰富的应用场景，愈加受到广泛关注。然而，利用非法盗取的音视频和照片，通过变声、换脸等技术伪装“瞒天过海”，实施诈骗或侵犯他人肖像权、名誉权的事件，却也时有发生。

1月10日，针对深度合成服务治理的专门性部门规章《互联网信息服务深度合成管理规定》（以下简称《规定》）施行，网民普遍“点赞”，对其将形成的治理、规范效用表达支持。

难辨真假背后技术乱象门槛愈低

以假乱真，是深度合成技术的显著特点之一。“深度合成服务在互联网社交媒体中广泛应用，丰富了互联网信息内容生态，推动了互联网相关产业发展。”中国科学院信息工程研究所所长孟丹认为，该技术在为人民生活带来了便利便捷和多样化体验的同时，也可能被恶意利用，虚假信息内容或将带来政策干扰、谣言泛滥、低俗内容肆意传播等影响国家安全、社会稳定的风险问题。

图源 《中国教育报》

中国互联网络信息中心最新数据显示，截至2022年6月，我国有10.51亿网民，互联网普及率达74.4%。同时，以互联网、大数据、人工智能为代表的数字领域，逐渐成为我国创新发展活跃、社会辐射广泛的新兴领域。随着各类商业化产品普及，深度合成的信息内容也在网络上大量涌现，越来越多的社会公众接触到了深度合成技术。

清华大学研究生院院长周杰认为，深度合成技术的使用门槛愈发降低，呈现出“平民化”的趋势，普通人也可以利用简单方便的软件工具制作合成内容。

“AI配音骗了多少中老年人”“顶着明星的脸卖货”……正如部分网民所提到的，在互联网技术日益发达的时代，人们对于看到的画面、听到的声音和读到的文本，已难以如往常一般充分信任。通过人工智能和大数据算法合成的虚拟数据，具有了高度仿真的视觉、听觉等效果，使人们难辨真假。

虚假信息一直是互联网治理的痛点与难点，深度合成技术的广泛应用则对虚假信息的治理提出了更高的要求。

既要直面技术风险，又要做好源头整治

如今，深度合成技术已展现其强大的能力，在各个领域的加速应用逐渐成为趋势。中国政法大学教授张凌寒认为，《规定》将深度合成为代表的生成合成类算法作为算法安全治理体系细化的重要一步，一方面是由于深度合成属于高敏感性的与互联网信息内容安全息息相关的技术应用，另一方面深度合成技术将成为网络虚拟空间与现实物理世界虚实结合、融为一体的关键技术应用，未来存在巨大发展空间。

“在相关技术研究发展的同时，也须直面技术带来的风险，保证算法和数据的安全性、可靠性，最大程度做到技术进步的趋利避害。”周杰这样说。

那么，对算法和数据的正向引导从何下手？有网民提出，“把平台管牢，就解决了很大一部分深度伪造问题”。对此，中国信息通信研究院云计算与大数据研究所所长何宝宏表示，《规定》构建了围绕深度合成“技术支持者”和“服务提供者”的责任框架。其中，技术支持者应从源头深化技术治理，加强数据和技术管理，同时参照相关规定履行算法备案等手续。服务提供者应全方位落实信息安全主体责任，强化针对服务、用户、数据、技术以及内容等方面的管理措施，实施安全可控的技术保障措施。

“AI换脸、AI绘画等常用技术及其生产内容，今后还能使用吗？”有网友在社交平台上这样提问。中国科学院自动化研究所研究员陶建华介绍，《规定》从两个方面明确了深度合成内容标识管理的具体要求：一是要添加不影响使用的标识，保障深度合成信息内容可识别溯源；二是要使用显著方式，对生成或显著改变信息内容的深度合成信息内容进行标识，保障公众知情权。

“虚拟主播”如何管理？中国人民大学未来法治研究院执行院长张吉豫提到，《规定》将“数字人物”纳入深度合成管理，这是对深度合成技术的不断发展运用中可能面临的风险所进行的科学研判，数字人物运用中同样涉及私权、可能带来问题，需要进行合理规范。

技术发展要兼具“创新”与“温暖”

正如众多网民在接触和使用之中的感受，深度合成技术具有“两面性”。如何使其保持快速发展的同时，在各个应用领域得到依法合理有效利用，最大程度服务于满足用户需求、改进用户体验，保障“眼见为实”，是网民的深度关切和期待。

张凌寒提到，深度合成技术代表了未来人工智能产业发展的重要方向，重新定义了虚拟化数字生存空间。

2021年“元宇宙”概念的火热，为深度合成技术提供了更加宽广的应用场景，也促进了深度合成技术的加速发展。“《规定》也回应了这一人工智能未来的发展方向，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景、沉浸式拟真场景的技术，是《规定》规制的深度合成技术的重要类别。”张凌寒说。

深度合成技术向善使用，甚至还可带给人“情感慰藉”。2019年，我国某人工智能实验室受一位作为母亲的网民所托，将其已离世的女儿合成“复制”为可交互的软件，女儿的“语音”得以在互动终端设备中重现。一位美国记者詹姆斯·弗拉霍斯（James Vlahos）在父亲确诊为癌症晚期后，收集了父亲的录音、生平、记忆，并利用这些数据开发拥有父亲“思想”和“记忆”的AI机器人，它能够用父亲的口吻与詹姆斯进行有思维性的聊天，让詹姆斯感到十分欣慰。

创新与温情之外，业内人士坦言，深度合成内容行业的挑战，将主要体现在深度合成逼真度正在快速提升，甚至很难分辨真伪边界。而最新的深度伪造技术具备强对抗性，天然针对检测方法进行对抗攻击，从而使检测方法失效。

面向算法正面正向的应用，《规定》已给出了解答和方向。陶建华说，《规定》明确了技术应用的底线，要求体现正确的社会价值观；要建立健全辟谣机制并及时采取相应辟谣措施；同时鼓励深度合成服务相关行业自律并遵循公正公平、公开透明、科学合理和诚实信用的原则。

中国社科院哲学所科技哲学研究室主任、研究员段伟文还建议，深度合成技术涉及认知安全，要提升社会认知安全意识，提升公众的数字素养。

标签： 技术乱象 深度合成服务治理