本文转载来自澳洲广播公司ABC中文仅代表原出处及原作者观点。仅供参考阅读，不代表本网态度和立场。
今年早些时候，微软推出了一种新的人工智能 (AI) 系统，在听完某人的声音后只需三秒钟说话后重现他/她的声音。
人工智能在复制人声和产生连贯对话方面做得越来越好。 （路透社：Philippe Wojazer）
人工智能复制某人的速度有多快身份的一部分，可以令人信服。
这是一个输入系统的人的三秒语音提示示例：
据报道，副杂志记者约瑟夫考克斯后来使用了类似的人工智能技术，利用人工智能复制自己登录银行账户的声音。
今年3月，《卫报》澳大利亚记者尼克·埃弗谢德（Nick Evershed）表示，他用人工智能制作了自己的声音，获得了他的声音Centrelink 自助服务帐户引起了一些安全专家的关注。
虽然诈骗者可以利用语音克隆，但这并不是专家认为诈骗者利用人工智能的唯一方式。
让我们来看看这项技术是如何被使用的，以及您如何才能最好地保护自己。
人工智能可以复制任何人的声音
《卫报》调查表明，Centrelink 和澳大利亚税务局 (ATO) 使用的“声纹”安全系统实际上可以被欺骗——使用短语“在澳大利亚，我的声音可以识别我”。
感觉就像是 1992 年电影《运动鞋》中的一个场景，当时罗伯特雷德福的角色使用了人们通过安检的录音。
在其 2021-22 年度报告中，澳大利亚服务部表示，语音生物识别技术已经用于验证超过 56,000 通电话，其中 39% 的电话是Centrelink 的主要业务号码。它还说声纹“和指纹一样安全”。
澳大利亚税务局表示，“其他人很难模仿你的声纹并获取你的个人信息”。
皇家墨尔本理工大学信息科学教授 Lisa Given 博士表示，AI 生成的声音还可以让人们相信他们是在自言自语与你认识的人交谈。
“当一个系统可以合理地复制我的声音并增加同理心时，你可以想象一个骗子可以通过发送一条短信说‘嘿，妈妈，我“因为打电话或发送语音邮件而丢失了我的手机，实际上是想发出那个人的声音，”她说。
上个月，美国联邦贸易委员会警告消费者注意使用人工智能生成的声音来冒充家人的紧急呼叫。FBI 还发布了关于虚拟绑架诈骗的警告。
这些担忧已促使专家建议人们可以使用一些基本策略来保护自己免受虚假言论的侵害：
直接打电话给朋友或家人来验证他们的身份，或者想出一个验证词通过电话说出来以确认真正的紧急情况。
警惕意外来电，即使是来自您认识的人，因为来电显示上的号码可能是假的。
如果有人要求您分享个人身份信息，例如您的地址、出生日期或姓名，请小心。
网络安全软件公司Gen Digital亚太区董事总经理Mark Gorrie表示，人工智能语音设备会越来越好更擅长欺骗人和安全系统。
“多年来，‘机器人骗局’很容易通过声音被发现，”他说，“但基于语音的 AI 会变得更像，显然它使用的文本也会更像。”
人工智能系统也越来越多地用于识别基于 AI 的诈骗.(Unsplash: Towfiqu Barbhuiya)
骗子用 AI 骗人-生成的文本和虚假产品评论
随着人工智能系统的改进，像 OpenAI 这样的大型语言模型现在流行的聊天机器人 ChatGPT 能够更好地模仿人类的反应。诈骗者试图在电子邮件、短信和他们自己创建的其他聊天机器人中重现这一点。
Giving 博士说：“这些概念我们作为人类在与人建立关系时使用的同理心和社交线索是骗子可以使用并构建到系统中的技巧。 ”
诈骗者在网络钓鱼诈骗中使用人工智能，通常涉及声称来自合法来源的电子邮件或短信，但最终使用社会工程学来获取个人信息。有些人还可能使用链接将您带到危险的网站。
Dr. Giving 表示，聊天机器人和大型语言模型可以“改进语言”并使信息看起来更加个性化，从而使网络钓鱼活动更具说服力。
"过去，网络钓鱼邮件中充斥着错别字和不真实的细节，足以让人发问，‘这封邮件是谁写的？这是什么东西？这些东西在近年来的短信诈骗中确实暴涨，诈骗者使用的平台也越来越多，”她
网络安全公司 Darktrace 表示，在 2023 年的头几个月，它发现复杂的新型社会工程攻击增加了 135%，它说对应于 ChatGPT 的广泛采用。
"同时，包含链接或附件的恶意电子邮件数量减少。这一趋势表明生成人工智能，例如 ChatGPT，正在为威胁行为者提供一种手段，以高速和大规模地制造复杂的、有针对性的攻击。 ”
先生。高力表示，Gen Digital 预计此类骗局将继续增加，因为即使对于技术水平不高的人来说，它们也很容易生成。
p>
“不要认为仅仅通过观察就可以判断一条信息是真是假，”他说，“你必须持怀疑态度并批判性地思考你所看到的东西。
Darktrace 的首席产品官 Max Heinemeyer 表示，该公司还在使用人工智能来帮助发现基于 AI 的诈骗。
“在人工智能驱动的攻击越来越多的世界里，我们不能再让人类有责任确定他们收到的通信的真实性。现在这是人工智能的工作，”他说。
高力先生说，人工智能也被用来在网上发布虚假的产品评论，但一些旨在寻找 AI 生成内容的工具很难始终如一地识别它。
“这表明，随着质量的不断提高， Discover 显然更难识别。”
人工智能可以生成骗子在试图销售时使用的虚假产品评论假冒产品。（美联社：Jenny Kane）
骗子可以使用人工智能来创建恶意计算机代码和破解密码
软件工程师和爱好者已经使用人工智能来智能地快速构建应用程序和网站等东西，但该技术也正在被使用生成可用于入侵其他计算机的代码。
“我们已经看到一些黑客在论坛上看到非技术人员不太熟悉编写恶意代码的人可以编写一些用于恶意目的的基本代码，”高力先生说，“因此成为真正的黑客的门槛肯定在改变。
AI 程序也被用来尝试和破解密码，导致专家敦促人们加强密码并尽可能使用双因素身份验证。
一些专家还对人工智能功能表示担忧，这些功能很快就会被添加到 Google Docs 和 Microsoft Excel 等生产力应用程序中。他们担心，如果骗子或黑客获得大量被盗数据，人工智能工具可能会被用来快速提取有价值的信息。
AI 可以生成恶意计算机代码，或尝试破解人们的密码。 (Unsplash: Chris Ried)
澳大利亚监管机构称人工智能让诈骗“更难被发现”
< /blockquote> 澳大利亚竞争和消费者委员会 (ACCC) 表示，虽然尚未收到任何具体的诈骗报告使用人工智能，但它知道这项技术“让人们更难发现骗局”。
“随着新技术的出现，[ACCC 的] 反诈骗网站 Scamwatch 不断发现越来越复杂的诈骗方法，并对人工智能保持警惕。风险，”一位发言人说。
“我们继续与电信和数字平台行业合作伙伴合作，以确定检测和破坏诈骗的方法。
< p style="text-align: justify;">"人们应该继续对任何个人信息或金钱请求保持谨慎，并在点击超链接时谨慎行事。 ”报告显示对监管的信任度低下，因为澳大利亚公司努力防止欺诈
咨询公司毕马威 (KPMG) 和澳大利亚信息产业协会 3 月份发布的一份报告发现，三分之二的澳大利亚人认为没有足够的法律或法规来保护他们免受人工智能的影响。安全使用它。
一些澳大利亚银行和电信公司表示，他们已经在使用人工智能来检测其系统中潜在的欺诈和网络威胁。
澳大利亚金融投诉局 (AFCA) 表示，它每月收到约 400 起与诈骗相关的投诉，高于 2021-22 年的约 340 起。
AFCA 的首席监察员兼首席执行官 David Locke 表示，虽然一些公司正在共同努力检测和预防诈骗，但还需要做更多的工作。多做一些工作。
他说：“欺诈的广度和复杂性意味着该行业需要愿意投资新技术并具有快速响应的能力。 ”
Giving 博士说，虽然有许多积极和实用的方法可以使用 AI，但没有人能幸免于成为基于 AI 的骗局的目标.
“我认为人们必须意识到这会影响到每个人，无论你是技术专家还是新手，”她说。
< p style="text -align: justify;">"实际上，尝试使用这些技术并了解它们的工作原理并围绕这些进行一些阅读并与人交谈并与您的孩子谈论它是非常健康和积极的。“人们只需要尽可能地挑剔，同时了解 AI 并非都是有风险或有问题的。”
本文转载自澳洲广播公司ABC中文，仅代表原始出处及原作者观点，仅供参考，不代表本网态度和立场。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
