近日，文生视频模型“Sora”的推出引起广泛关注。人工智能技术快速发展，其潜在的风险也随之出现，真假的界限似乎变得更加模糊。在网络庞杂的信息里，哪些是真，哪些是假，面对AI正反两面的作用，我们如何作出相对准确判断？我们来看记者的观察↓↓↓
“有图”真有“真相”吗？
总台央视记者 王世玉：是不是一切都很真实？但其实连这个“我”都是“假”的。通过人工智能替换了脸，用大模型制作模仿出跟我相似的声音，以我的身份做了刚才一件件事情。
总台央视记者 王世玉：现在我保证我是真实的。但是在真实世界里仍然有很多问题。我们统计了近期一些热门话题，内容很丰富。在我们的实验室里，有一套最新的鉴别系统。我们把这些话题录入到鉴别系统，它帮我们分析出了几项有争议性的信息。
总台央视记者 王世玉：当然，我们无法直接判定它们为谣言，但是系统帮我们对比出了它和正常信息之间传播的路径，可以看到在这些节点出现了明显不同。人工智能在谣言的传播中起到了什么样的作用？我们找到了几位长期研究网络数据和鉴别真伪的专家。
中国电信研究院战略发展研究所所长 饶少阳：借助AI能够分析用户的一些情绪，通过一些爬虫的技术可以分析网络上正在讨论什么热点，已有的内容，利用AI可以进行一些修改。比如说两年前发生的一个事情，时间稍微改一下，换一部分场景，真假难辨的修改，快速引起新的讨论。
中科睿鉴深度伪造检测专家 葛星宇：前一段在湖北发生了冻雨的情况，我们第一时间注意到有谣言，发了一张图，展示了当时大量汽车拥堵在高速路上的情景，其实这张图是由AI生成的。AI可以把很多抽象的概念具象化展示在观众的面前。形式非常夸张，这就在精神层面上对观众进行冲击，让它的谣言变得更加可信。
总台央视记者 王世玉：分析谣言的组成，我们发现，人工智能技术不仅仅能够精准捕捉用户的心理预期，还能针对性释放出部分真实的信息，进一步混淆视听。
总台央视记者 王世玉：以湖北冻雨为例，我们分析了从2023年1月至今，应急管理部四级以上响应的事件，谣言产生的比例达到70%，而把筛选条件调整到三级以上，谣言产生的概率甚至达到100%。突发情况越严重，出现谣言的概率就越高。
将时间拉近到2024年，我们分析了今年以来的几次突发事件，谣言的产生手段也从过去的图片拼接发展到了现在利用大模型生成文字信息和图片视频。
场景还原：AI世界的真假博弈
记者通过场景还原了一个真假难辨的世界。可以看到人工智能技术在其中不断模糊真假界限，同时精准找到掀起网友情绪和讨论的内容，进一步增加辨别真伪的代价。
不过现在，人工智能技术同样也可以成为检测手段，两股力量的博弈如何实现？我们再跟随记者进入一场视觉还原。
总台央视记者 王世玉：几天前，一个跨国公司的财务人员收到了一封邮件，是他所在公司的英国总部，邀请他参加一场涉密会议。加入之后，眼前的面孔果然十分熟悉。
香港特区政府警务处网络安全及科技罪案调查科署理高级警司 陈纯青：我们发现诈骗人员利用英国公司的各个职员在网上公开的视频片段，配合后期人工智能生成技术、换声技术，配合预先录制的对白，在线上会议里播放，播放的过程中就向这位报案人做出转账的指示。
总台央视记者 王世玉：录制好的视频进行换脸，已经是当前人工智能能做到的最基础的情形了。现在，动态实时换脸、虚拟人物有来有往的对话，早已不是新鲜事。
既然是博弈，就一定有相应的技术应对。在实验室里，有一套最新的鉴定系统。我们将人工智能生成的视频录入系统，后台四十多个模型开始了实时分析测算。
中科睿鉴深度伪造检测专家 葛星宇：光影是一个很重要的指标，光源打在环境里，人对于光的反射结果、环境和光影反射的结果应该是一样的。或者当屏幕开始抖动，我们无论是人在动还是背景的图像在动，它们的运动轨迹应该都是一样的。
总台央视记者 王世玉：分析结果很快就出现了，人工智能生成的视频已经被判定为假。“Sora”等先进技术生成的视频同样可以被鉴定出来。老百姓如何鉴定真伪信息，或者更好判断防止被骗呢？最简单的方式可以在视频过程中，让对方用手遮挡一下面部，就会因为算法不够精确而出现破绽。未来，这些先进的鉴别软件也会嵌入手机系统进行自动防护，提示真伪信息。
AI的两面 边界需明晰
可以看到，人工智能技术既可以成为制造虚假信息的手段，同时也可以成为判断谣言、诈骗的新方式。那如何更好利用人工智能、在规范中发展人工智能技术？来听专家的解读↓↓↓
中国电信研究院战略发展研究所所长 饶少阳：输出的内容，在真正呈现给用户之前，也可以做一些监管控制。AI式生成的，那就要打上它是AI生成的。不管是工信部还是国资委、科技部，频繁出一些政策在推动AI产业的发展。反过来，个人的隐私、数据安全、生成内容的法律法规也在推出，这两面都在同时进行。
总台央视记者 王世玉：人工智能技术本身并没有好坏之分，如何让它被更好地使用，是当前在规范中发展的重中之重。
2023年1月，我国《互联网信息服务深度合成管理规定》出台；8月，《生成式人工智能服务管理暂行办法》正式施行。2023年10月，我国率先发布《全球人工智能治理倡议》；同月，联合国成立“人工智能高级别咨询机构”；11月，全球人工智能安全峰会发布《布莱奇利宣言》。当前，在人工智能治理水平方面，从率先提出治理倡议，到跻身全球治理的第一梯队，中国方案始终在为人工智能的安全贡献智慧。
（总台央视记者 岳群 朱江 王世玉 孙戈 王子新）
