近日，包括“人工智能教父”杰弗里·辛顿、特斯拉创始人埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、图灵奖获得者约书亚·本吉奥、知名人工智能专家加里·马库斯在内的数千位各界精英签约一封呼吁暂停“巨型人工智能实验”的公开信。
公开信称，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远风险。
公开信还呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停期至少持续6个月。如果科技公司不愿意合作，那么政府应该介入。
公开信全文如下：
正如许多研究和顶级 AI 实验室所承认的那样，具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。
正如公认的 Asilomar AI 原则所述，先进的 AI 可能代表地球生命史上的深刻变革，人类应该有相应的关注点和资源计划和管理。
不幸的是，尽管最近几个月人工智能实验室陷入了一场开发和部署更强大的数字思维的失控竞赛中，但没有人，即使是他的创造者，也无法理解、预测或可靠地控制。
既然现代人工智能系统可以在常见任务上与人类竞争，我们必须问自己：
我们应该自动化所有工作，包括令人满意的工作吗？
我们是否应该开发最终在数量上超过我们、在智力上超过我们并取代我们的非人类思维？
我们是否应该冒险失去对我们文明的控制？
这样的决定不应委托给未经选举的技术领导者。只有在我们确信影响是积极的并且风险是可控的情况下，才应该开发强大的人工智能系统。
这种信念必须有充分的根据，并且随着对系统的潜在影响的大小而增加。
（图片来源：网络）
OpenAI 最近谈到人工智能“要在开始训练未来系统之前获得独立审查的重要性，高级研究同意限制用于创建新模型的计算增长率也很重要，”声明说。我们同意，那就是现在。
因此，我们呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统至少 6 个月。
这种暂停应该是公开的、可验证的并且包括所有关键参与者。如果这种暂停不能迅速实施，政府应该介入。
AI 实验室和独立专家应该利用这次暂停共同开发和实施一套共享的高级人工智能设计和开发的安全协议，有独立的外部专家严格审核和监督。
这些协议应确保遵守它们的系统是安全的，无可置疑。这并不意味着 AI 开发的全面暂停，只是从危险的竞赛中退后一步，回到具有紧急功能的更大、不可预测的黑盒模型。
AI 研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、健壮、一致、值得信赖和忠诚。
与此同时，AI 开发人员必须与政策制定者合作，以显着加快强大的 AI 治理系统的开发。
这些措施至少应包括：
一个称职的新 AI 监管机构；监督和跟踪具有高性能和大计算能力资源的 AI 系统；
来源和水印系统，以帮助区分真实模型和合成模型并跟踪模型泄漏； robust
对 AI 造成的损害承担责任；
为 AI 技术提供强大的公共资金安全研究；
以及资源充足的机构来应对人工智能将造成的巨大经济和政治破坏（尤其是民主破坏）。
通过人工智能，人类可以享受繁荣的未来。成功打造了强大的AI大系统之后，我们现在可以享受“AI的夏天”了。
今年夏天，我们可以收获设计这些系统的回报，造福所有人，让社会有机会适应。
社会已经暂停了其他可能对社会造成灾难性影响的技术，我们也可以在这里做同样的事情。让我们享受一个漫长的 AI 夏天，而不是毫无准备地进入秋天。
(乔)
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
