由于流行的聊天机器人 ChatGPT，搜索引擎发布了自己的 AI 聊天机器人，以及人们使用 AI 从
但一些人工智能公司和专家越来越多地将注意力转向所谓的通用人工智能 (AGI)——一些人预计这将预示着人工智能系统的到来像人类一样聪明（最终甚至更聪明）。
这个想法带来了一些令人兴奋的可能性，但也带来了一些巨大的风险，所以让我们来看看一些人认为 AGI 会变得多么强大，并且我们是否需要阻止机器人接管世界。
什么是 AGI？
通用人工智能还没有成为现实，听起来还是有点科幻。
< p class="_39n3n">基本上，它是人工智能达到与人类相当或更高的智能水平的概念。美国公司 OpenAI，它创建了 ChatGPT 和流行的 AI 图像生成器 DALL·E 2 将 AGI 描述为“在最具经济价值的工作中表现优于人类的高度自治系统”。
这些系统有望解决问题并完成复杂的任务事物同时适应它们的环境并自行提高它们的知识和技能。
还有人工超级智能 (ASI) 的概念，它设想系统具有比人类更强大的智能能力。
一些专家认为这些技术无法实现，但其他专家对它们如何改变世界既兴奋又担心。
一些专家认为 AGI 拥有'extraordi人类面临的风险很小
OpenAI 首席执行官山姆奥特曼警告说 AGI 存在“巨大风险”，包括“滥用、严重事故和社会破坏”。他曾表示，我们可以在未来十年内看到 AGI 的到来。
“第一个 AGI 将只是智能连续体中的一个点。我们认为进步很可能会从那里继续，可能会在很长一段时间内保持我们在过去十年中看到的进展速度，”他在最近的一篇博文中说。
“如果这是真的，世界可能会变得与今天截然不同，风险可能会非常大。一个失调的超级智能 AGI 可能会对世界造成严重伤害；一个拥有决定性超级智能领导的专制政权也可能做到这一点。
"人工智能领域的一些人认为 AGI（和后继系统）的风险是虚构的；如果结果证明他们是正确的，我们会很高兴，但我们将把这些风险视为存在。”
上个月，OpenAI 联合创始人埃隆·马斯克 (Elon Musk)不再隶属于公司，说 AGI 使他经历了“存在的焦虑”。
鉴于 AGI 的概念让专家们考虑潜在的负面情况，这并不奇怪，例如：
医疗保健 AGI 决定不治疗老年人以优化其他人的健康一个 AGI 的任务是为一家迅速取代所有人类工人的公司赚钱，导致大规模裁员一个 AGI由一个民族国家创造，利用其能力打破其他国家的网络防御AGI 决定摧毁整个城镇以杀死一个高价值目标——这听起来像是《终结者》中的东西“我们的想法是，一旦 AGI 出现，我们将很快获得人工超级智能，这基本上意味着我们错过了机会——我们将没有机会控制这件事。
“我们确实需要了解如何设计 AGI，使其安全、合乎道德且可用。以及如何管理风险，然后看看如何控制它们。
“这些不是恶意使用 AGI 或类似终结者场景的风险。它是当 AGI 变得有优势或超级智能时，在寻求平衡我们赋予它的不同目标时，它会做一些对人类有问题的事情。”
在他最后的博客文章中月，OpenAI 的 Sam Altman 制定了公司“针对 AGI 及以后”的计划。
测验：这些音乐中哪些是人工智能创作的？
你能区分这些音乐片段吗？
他说，随着 AGI 的临近，OpenAI 在发布其 AI 模型时“变得越来越谨慎”，并表示该公司在它的章程“关于协助其他组织提高安全性，而不是在后期 AGI 开发中与他们竞争”。
Salmon 先生说，围绕 AGI 的所有权仍然存在疑问AGI，鉴于“其中一个风险是第一个开发 AGI 的公司将很快拥有可以用来产生大量利润的优势”。
Altman 先生说 OpenAI，它包括一家非营利组织及其营利性子公司对其股东可以获得的回报设定上限，这样公司就不会被激励“无限制地获取价值，并冒险部署具有潜在灾难性危险的东西”。
澳大利亚工业和科学部长 Ed Husic 表示，他已要求该国国家科学技术委员会考虑人工智能将如何发展，并“思考其影响是什么以及政府应如何应对”。
“我们希望技术为我们服务——而不是相反，”他本周告诉国家新闻俱乐部。
CSIRO 的国家人工智能中心也在就人工智能的负责任框架向政府提供建议。
人工智能公司很乐观，尽管一些专家表示担忧
Elon Musk 曾表示，虽然他经历了一些焦虑AGI，他很兴奋希望能在他有生之年见证它的实现——而且他并不是唯一持乐观态度的技术领导者。
OpenAI 的 Altman 先生在他最近的博文中说 AGI技术可能会“赋予每个人令人难以置信的新能力”来帮助完成认知任务。
“如果 AGI 成功创建，这项技术可以帮助我们通过增加财富来提升人类，推动全球经济发展，并帮助发现改变可能性极限的新科学知识，”他说。
“我们可以想象一个人类繁荣到可能不可能达到的程度的世界我们中的任何人都无法完全想象。”
在 Altman 先生的博客发布几天后帖子中，美国联邦贸易委员会的一名律师——致力于保护消费者和竞争——在他们自己的博客文章中写道，人工智能是“一个营销术语”，并警告公司在使用它时要谨慎。
他们写道：“我们还没有生活在科幻小说中，计算机通常可以对人类行为做出可靠的预测。”
Microsoft联合创始人比尔盖茨本周在一篇博文中写道，“过去几个月的任何突破都没有使我们大大接近”创造 AGI，并指出人工智能的发展带来了“机遇和责任”。
即时视频、图像和语音：这就是 AI 已经可以实现的梦想
人工智能可以创造梦幻般的效果视频、模仿的声音和即时文章。
Salmon 教授表示，他仍然乐观地认为，如果社会为 AGI 做好准备，它可能会产生巨大的积极影响。
“如果我们采取一种主动的方法来设计控制，毫无疑问，对人类的好处可以是绝对巨大的，”他说。
Altman 先生似乎同意，但很明显，创建和管理 AGI 是一项艰巨的任务。
“成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望、最可怕的项目，”他说。
“成功远非保证，而赌注（无限的下行和无限的上行）将有望团结我们所有人。”
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联