身着西装，神态紧张，语气郑重，屏幕上还配以“突发新闻”字样……最近，一则日本首相岸田文雄的虚假视频在全球社交媒体疯传。令人不寒而栗的是，如此轰动的视频不过是生成式人工智能（ai）技术产品，且制作全程仅花了1小时。
“ai换脸”通过深度合成算法处理，为二度创作提供了支持，也满足了网络受众的猎奇心理和社交需求。但随着技术门槛降低与应用场景增多，人脸置换似乎愈发出格。以躺枪的各国政要为例——“拜登”公然宣布第三次世界大战开始；“马克龙”直播回答“政府聘用灭霸”；“特朗普被捕”事件还没发生，“现场照片”就已疯传……如果说仿造娱乐明星仅是一种恶搞，那么刻意生成政治人物的表态，则可能误导整个国家乃至全球公共舆论。谷歌前首席执行官埃里克·施密特就曾警告，“2024年的选举将一团糟，因为社交媒体平台无法保护我们免受ai生成的虚假消息的侵害。”
人工智能发展至今，已经成为全球新一轮科技革命和产业变革的核心驱动力。而当我们追问数据算力是否具备认知水平、未来能否取代人类之时，其带来的泄露隐私、侵犯权益、扰乱视听等现实问题已然摆在眼前。特别是在“有图不一定有真相”的社交媒体上，有人借此编造新闻、炒作热点，侮辱诽谤、实施诈骗，作恶成本越来越低。眼下，针对ai技术带来的颠覆性风险挑战，各国纷纷制定法律以探索深度合成的治理路径。就我国而言，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法（征求意见稿）》等文件相继出台，理顺了信息安全主体责任，明确了相应技术服务的规范、监督和管理等内容。但必须看到，ai生成数据量庞大，且存在多次合成、多种场景等问题，“以技术管技术”恐怕还有很长的路要走。
以更大视野来看，从社交机器人衍生出网络水军，到算法推荐加固信息茧房，再到如今人工智能掀起“以假乱真”风潮，都让我们深刻认识到，新技术往往是一把“双刃剑”。对此，需要前瞻研判其可能造成的规则冲突、社会风险、伦理挑战，更要在技术普及过程中不断拉紧缰绳。无论是以严格监管促使形成向上向善的研发应用环境，还是通过实际案例引导公众认清滥用与使用界限，努力缩短从野蛮生长到规范发展的时间差，才能最大限度抵消这股“反作用力”。（关末）