Examine 是一份免费的每周通讯，以怀疑的、基于证据的眼光报道科学，每周二发送。您正在阅读摘录 - 注册即可在收件箱中获取完整的时事通讯。
阅读有关人工智能的可怕警告可能会让您为民主的消亡做好准备，并倒计时，直到恶意的定时国家元首深度伪造拉开了第三次世界大战的序幕。
但是小狗来了！
金毛小狗在雪地里嬉戏。小狼崽在碎石路上嬉戏。一对彬彬有礼的狗狗沿着霓虹灯闪烁的城市街道小跑。
这些是 Sora 带来的一些乐趣，Sora 是 OpenAI 的一项新服务，可以根据文本提示生成视频剪辑。
< p>澳大利亚机器学习研究所所长 Simon Lucey 教授在最近一次关于 Deepfakes 的专家简报会上解释说，人工智能生成图像的能力于 2014 年出现。然后 ChatGPT 出现并为整个企业带来了涡轮增压.
“我们目前真正看到的是这两种技术的交集，”Lucey 说。当 Sora 的示例视频发布时，“很多像我这样的技术专家都感到敬畏”。
广告我们现在处于扩散模型人工智能领域，它不会简单地扭曲现有的图像和视频，而是从头开始召唤它们。虽然 OpenAI 表示正在努力建立护栏以阻止 Sora 被滥用，但快速发展的生成人工智能领域让专家们担心深度伪造——视频被修改以改变人们的外表或他们所说的内容。
但是让我们仔细看看那些狗更接近。金毛幼犬周围飞舞的雪更像是洗碗的肥皂水。小狼崽不知从何而来，就像被淋湿的小妖怪一样。这些城市溜溜狗的爪子像冰一样巧妙地在混凝土上滑行。
这些怪癖使我们能够相当快地发现人工智能生成的视频。但随着技术的进步，明显的故障不会持续下去。
那么我们如何才能保持现实与虚构之间的界限越来越细呢？以下是专家们在深度造假和验证之间的军备竞赛中讨论的一些技术。正如澳大利亚皇家学会科学倡导组织负责人威尔·贝里曼 (Will Berryman) 所说，这是一个“触及信任核心”的问题。
眨眼间你就会错过它
当您尝试识别人工智能生成的人物视频时，请注意手指和四肢——这些通常会失控。例如，在这个令人信服且迷人的 Sora 视频中，请留意女人的双腿。在某一时刻，它们会以错误的方式移动并短暂地相互融合。
根据 CSIRO 人工智能专家 Kristen Moore 博士的说法，您还可以检查对称性。眼睛大小一样吗？耳环搭配吗？嘴唇也经常随着音频而变得不正常。
但这些破解 Deepfake 的技巧也只能到此为止。研究表明，我们在识别高质量深度赝品方面已经很糟糕了。在 Plos One 最近对 500 人进行的一项研究中，73% 的参与者即使在训练后也无法识别 Deepfake 音频。在澳大利亚的一项研究中，詹姆斯库克大学的研究人员向志愿者展示了 10 个深度伪造视频和 10 个真实视频。发现者只有大约 60% 的时间是正确的。
其他研究表明，我们严重高估了我们发现 Deepfake 的能力，使我们面临更大的被欺骗的风险。
那么，什么工具可以帮助我们吗？
一些最有趣的方法依赖于生物学，通过将虚假的数字幻影与真实人类的血液和内脏进行比较来揭露它们。
加载DeepVision 算法，由首尔建国大学的研究人员开发的，分析了视频中描绘的人类的眨眼模式。我们眨眼的频率取决于性别、年龄、一天中的时间和情绪。
“因此，可以通过跟踪眨眼模式的显着变化来通过完整性验证来确定深度伪造品，”作者写道一篇描述该技术的论文，他们说该技术的准确率高达 87.5%。
与此类似（双关语），英特尔的检测系统 FakeCatcher 会分析视频，使用称为光电体积描记法的技术。
在真实的人类中，每次我们的心脏跳动时，我们的静脉都会因新鲜血液的涌动而改变颜色。这对我们来说是难以察觉的，但对 FakeCatcher 来说却不然。
该公司表示其准确率高达 96%，尽管 BBC 的一项独立测试发现该系统将一些政客的真实视频标记为假视频，并且面临低质量的困扰剪辑。但它确实捕获了几乎所有深度伪造品，除了一个。
与此同时，斯坦福大学和加利福尼亚大学的研究人员a 开发了一种方法，专注于音素（口语）和视素（嘴部运动）之间的不匹配。
寻找 Deepfake Kryptonite
其他技术侧重于分析附加的元数据剪辑和图像以追踪信息的来源及其创建方式。但这些技术很容易被欺骗。
加载保护社会免受深度造假侵害的最受炒作的方法之一是水印，其中将不可见的数字信号嵌入到视频内容中，以识别创作者并跟踪创作者。剪辑的出处。即使是人工智能生成的文本也可以通过以某种模式排列单词来添加水印，以表明该文本的创建位置和方式。
然而，随着人工智能专家意识到擦除它是多么容易，这种炒作正在迅速消失。
“很多人都把希望寄托在水印上，但说实话，这真的很容易掩盖，”悉尼大学人工智能研究员丽贝卡·约翰逊 (Rebecca Johnson) 说。 “这根本不是解决办法。而且，如果你知道，在某些国家，有些人确实更容易受到宣传和阴谋论的影响……这不是解决这个问题的技术解决方案。”
解决方案，约翰逊认为，将是跨学科的。
深度伪造的氪石可能会依赖于多种分析的结合——也许是眨眼、血流、嘴唇运动和元数据。最终，我们将创建更好、易于访问的验证工具。
但就目前而言，深度伪造品具有优势，直到我们在军备竞赛中迎头赶上。希望我们能在事情真正陷入困境之前采取行动。
Examine是一份免费的每周通讯，以怀疑的、基于证据的眼光报道科学，每周二发送。您正在阅读摘录 - 注册即可在收件箱中获取整份新闻通讯。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联