一份新的研究报告称，与中国政府结盟的演员正在使用 AI 生成的 deepfake 新闻广播为社交媒体平台兜售亲中国宣传视频。
总部位于美国的研究公司 Graphika 在其报告中表示，假主播 - 为一家名为 Wolf News 的虚构新闻媒体 - 是由人工智能软件创建的，出现在社交媒体上的镜头中，似乎在促进中国共产党的利益。
“这是我们第一次看到与国家结盟的行动使用 AI 生成的虚构人物的视频片段来制作具有欺骗性的政治内容，”Jack Stubbs，副总裁Graphika 的情报部门告诉法新社。
在 Graphika 分析的一段视频中，一位自称亚历克斯的虚构男性主播批评美国对困扰该国的枪支暴力无所作为。
第二位女主播强调“大国合作”的重要性中国和美国之间的“离子”。
人工智能的进步引发了全球对这项技术潜在的虚假信息和滥用的警告，凭空制造的深度造假图像和人们用嘴巴说话的画面他们从未说过。
去年，Facebook 所有者 Meta 表示，它删除了一段乌克兰总统 Volodymyr Zelenskyy 敦促公民放下武器并向俄罗斯投降的深度伪造视频。
全球打击深度造假
各国和国际警察机构正在反击，因为人工智能制作的逼真虚假视频削弱了公众对信息的信任。
中国没有立即对 Graphika 的报告发表评论，该报告是在北京通过扩张性规定几周后发布的监管深度造假。
中国上个月实施了新规定，要求提供深度造假服务的企业获取其用户的真实身份。
他们还要求对 deepfake 内容进行适当标记，以避免“任何混淆”。
中国政府警告说，deepfake 对“国家安全和社会稳定构成威胁”。
Graphika 的报告称，这两个 Wolf News 主播几乎可以肯定是使用伦敦 AI 初创公司 Synthesia 提供的技术创建的。
Synthesia 的网站没有立即回应法新社的置评请求，它宣传的软件可以“根据真人演员的视频片段”创建 deepfake 头像。
Graphika 表示，它在跟踪被称为“spamouflage”的亲中国虚假信息操作时发现了包括 Twitter、Facebook 和 YouTube 在内的平台上的 deepfakes。
“Spamouflage 是一种亲中国的影响操作主要是放大低质量的政治垃圾视频，”斯塔布斯先生说。
“尽管使用了一些复杂的技术，但这些最新的视频大同小异。
“这显示了在影响力操作中使用 deepfakes 的局限性——它们只是日益先进的工具箱中的一个工具。”
Graphika 表示，识别出的视频质量低且“垃圾邮件”，并且他们都没有收到超过 300 次的浏览量。
它说这反映了“这个演员”在制作令人信服的政治内容以产生真实的在线参与度方面的长期挑战”。
法新社
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联