热点快评｜ 赵本山“演”英文小品，孙燕姿“唱”韩语歌……AI合成很凶猛，有图还有真相吗？

赵本山在经典春晚小品中“讲”英文，海外歌手泰勒·斯威夫特一开口居然是流利的中文……近日来，多个出自AI软件的“换声”视频在短视频平台走红，不仅能生成和原作者嘴型、声线都匹配的新视频，还自带语言功能，除了赵本山能用英文演小品外，孙燕姿、周杰伦嘴里唱出的韩语歌，也一时让歌迷真假难辨。

跨入互联网时代，人工智能技术的膨胀式发展，必然会直面为善为恶的双向选择。AI合成很凶猛，守法底线不可破！技术虽然是中立的，但缩短从技术爆炸到社会化监管的时间，或许是这个时代提出的重要课题。

无论出于恶搞的目的，还是别有用心的初衷， AI技术应用的逐步成熟以及应用门槛的降低，的确实实在在打破了“有图有真相”的社会共识，背后引发的视觉失真、新闻失真、社会关系失真等一系列严肃问题，这已成公众焦虑的源头。此前，有犯罪分子使用AI换脸技术进行电信诈骗，仅仅10分钟的通话就骗走了受害人430万元。而多个视频平台泛滥恶意剪辑的公众人物“换脸”视频，甚至是捏造传播公众人物“换脸”的淫秽视频，更让面对这些恶意造谣的受害者们百口莫辩。所有这些，都在提醒我们重新思考人工智能技术的应用和娱乐创作的底线。

从信息技术发展史看，新的信息生产、分发方式的变化，容易率先在灰黑产业被应用。在诈骗案例开始增多，“换脸”等技术在内容平台大范围普及的情况下，建立科技、政策和教育宣传的立体化屏障开始变得尤为紧迫。比如对于用户隐私的搜集、使用进行更坚决的保护，从源头切断诈骗分子伪造信息的可能。同时，对于人工智能相关的应用工具，加强严密的审核机制，对其使用场景、用户门槛进行限制和预警。此前，公安部、网信办等部门就联合发布了《互联网信息服务深度合成管理规定》，规范了对AI新技术的应用管理，引导平台、开发者树立法律意识。

笔者认为，在提供技术解决方案之外，创建新的以“信用”为核心考量指标的网络媒体生态，才是治本之策。社交媒体时代的“流量为王”评价指标，本身就是点燃受众情绪的温床。与此同时，也很可能孕育出以“可信”为核心的新兴网络价值，重点是建立“信用溯源机制”。比如，无论信息和视频在哪个平台传播，都需要附带原始来源链接或链接通道，如同“论文索引”一般，最终承担信用风险的是第一作者。

汉代经学家刘向有言：“夫耳闻之，不如目见之；目见之，不如足践之。”虽然“深度造假”的AI技术打破了原本稀松平常的真相认知，但在防止AI技术被滥用的同时，我们也不必谈虎色变。相反，明确AI技术的“底线”“红线”，多方合力，全面认识、利用AI新技术，才能更严密地防范新型技术隐患。技术永远不是潘多拉的魔盒，法治实时跟上，就能避免其跌入人性的深渊。