Twitter 广受批评的对其验证程序的改造，加上由生成 AI 提供支持的新一代合成媒体，可能会在该平台上制造一场完美的错误信息风暴，因为它试图吸引广告商和 2024 年美国总统竞选的升温.
上周，一张伪造的五角大楼外爆炸图像在该服务上短暂传播开来。尽管 Twitter 有禁止假冒的规定，但至少有一个发布图像的个人资料看起来像彭博社的官方账户，并带有蓝色的验证勾号。
据称显示五角大楼附近发生爆炸的虚假图像是由虚假的彭博社帐户分享的。
< /figcaption>以前，这些 ticks 由 Twitter 授予经过验证的个人、组织和名人，这些人、组织和名人有被冒充的风险，但在首席执行官 Elon Musk 的领导下，任何用户都可以购买 ticks 作为称为 Twitter 的订阅服务的一部分蓝色。
发布该图片的其他几个帐户是专门的错误信息帐户，旨在看起来像合法的新闻媒体 - 都带有蓝色勾号 - 这使得该图片被看到数十万次，并带有诸如“BREAKING：五角大楼附近发生爆炸”。俄罗斯政府控制的新闻媒体也将这张照片呈现为真实的。
美国官员证实没有发生这样的爆炸，但至少有一个有影响力的帐户发布了这张照片，似乎是领导对美国证券交易所产生了暂时但重大的影响。
专家推测该图像是使用生成式 AI 制作的，但尚未确定确切来源。无论如何，斯威本大学高级媒体讲师 Belinda Barnet 博士表示，推特上缺乏适当的保护使其得以传播。
推特有成为错误信息在线传播的完美场所。
“我们现有的系统有其缺陷，并不完美。但它是一个系统因为首先要确定人们是他们所说的那个人。其次，要优先考虑更有可能经过事实核查的信息，”她说。
“但是当 [Musk] 友善时开始在麦片盒背面销售验证，它失去了效力。现在验证是你有信用卡。”
广告新系统还意味着带有蓝色勾号的帐户共享的媒体在 Twitter 的算法中排名更高，这意味着整个错误信息传播者网络都可以获得由于他们每月为 Twitter Blue 支付 13 美元，因此像这样的合成媒体进入了更多人的订阅源。
加载“我认为这个特定的图像是由已经购买验证的帐户通过算法提升的。从本质上讲，现在让错误信息在 Twitter 上传播更容易，更容易，”Barnet 说。
“有点讽刺的是，[马斯克] 是那些说我们应该担心的人之一人工智能，但他购买的平台上用于处理错误信息的系统是他拆除的第一批东西之一。”
马斯克和 Twitter 一直在开展一项活动，将广告商带回该平台核查的变化和其他新举措在过去六个月中促使大批人撤离。组织现在可以购买特殊的金刻度来证明其合法性，以及自定义徽标来表明帐户属于某个组织。马斯克还任命久经考验的广告业老大琳达亚卡里诺为 Twitter 的下一任首席执行官。
同时，马斯克还开始将 Twitter 定位为讨论 2024 年美国大选的城市广场，邀请佛罗里达州州长罗恩德桑蒂斯到上周通过Twitter Spaces宣布参选，并宣布在推特上非常欢迎所有候选人。
加载中截至目前，推特上仍有经过验证的用户声称2020年美国大选被拜登以欺诈手段窃取竞选活动，尽管马斯克本月早些时候承诺将消除这些说法。
我们联系了 Twitter 征求意见，并回复了一个便便表情符号。
Barnet 说，即使合成媒体，如伪造的五角大楼照片并不是什么新鲜事，可以根据文本提示创建内容的生成式 AI 工具的兴起意味着可以更快地创建更具体的内容。
“过去要生成错误信息，您需要了解如何使用 Photoshop。或者，如果你正在生成书面文本，你会希望听起来尽可能像一名记者，”她说。 “现在只需单击一个按钮，所有这些都可用。”
加载包括 OpenAI 和 Microsoft 在内的公司在其产品中加入了保护措施，旨在防止创建危险媒体。这包括给图像加水印，或拒绝遵守包含某些文字或主题的请求。此外，包括 Twitter 在内的社交媒体平台具有识别和标记虚假图像的能力，尽管就五角大楼的图片而言，Twitter 直到事发数小时后才这样做。
但这些措施都没有是万无一失的，Barnet 表示，用户在参与之前可能会三思而后行。
“我不知道是否有任何一件事可以阻止它。与此同时，我一直在告诉人们，特别是自从 Twitter 上的验证被淡化后，他们将不得不手动寻找真实性标记。表明它可能已经过事实核查的标记。”
每周五在我们的技术通讯中获取有关技术、小工具和游戏的新闻和评论。在这里注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
