人工智能系统失控威胁人类生存的电影场景是否会上演？
当全社会都在为人工智能的进化欢呼时，新的、意想不到的风险也可能正在悄然酝酿。
3月22日，生命未来研究院（Future of Life）向全社会发出“暂停大规模人工智能研究”的公开信，呼吁所有人工智能实验室立即暂停比对GPT-4 培训更强大的人工智能系统，暂停至少 6 个月。该机构的使命是“引导变革性技术造福于生活，远离极端大规模的风险。”
该机构在信中表示：
我们不应冒失去对文明控制权的风险，将决策权委托给未经选举的技术领导者。只有在确保效果是积极的且风险可控的情况下，才应继续开发强大的人工智能系统。
AI 实验室和独立专家应在暂停期间共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，并接受独立外部专家的严格审查和监督。
截至目前，马斯克、苹果联合创始人史蒂夫沃兹尼亚克、Stability AI创始人Emad Mostaque以及数千名技术领袖和AI专家已经在公开信上签名。
值得一提的是，在与麻省理工学院研究科学家Lex Fridman的最新对话中，OpenAI CEO Altman指出AI已经展现出其无法解释的推理能力，同时承认“AI杀人人类”有一定的可能性。
那么ChatGPT在公开信中是如何看待AI对人类社会的影响的呢？华尔街日报专门询问了ChatGPT 3.5，其中表示，随着人工智能技术的不断发展和普及，人工智能可能对社会和人类产生越来越大的影响。本次公开信中提出的呼吁和建议，应被视为更广泛、更深入讨论的起点和参考，而不是终点或解决方案。
以下为公开信原文：
广泛研究和顶级人工智能实验室认识到，人工智能系统对社会和人类构成了更大的风险。 《阿西洛马人工智能原则》指出，先进的人工智能可以代表地球生命历史的深刻变革，应该以相应的谨慎和资源来规划和管理。然而，尽管最近几个月人工智能实验室掀起了人工智能狂潮，开发和部署越来越强大的数字大脑，但目前没有人能够理解、预测或可靠地控制人工智能系统，也不具备相应水平的规划和管理能力。
现在人工智能在普通任务上与人类竞争，我们必须扪心自问：我们是否应该允许机器在信息渠道中传播不真实的信息？我们应该自动化所有工作，包括令人满意的工作吗？我们是否应该开发非人类的大脑，使它们最终在数量上超过人类并超越人类，淘汰并取而代之？我们应该冒险失去对我们文明的控制吗？
决不能将此类决定委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险可控时，才应该开发强大的人工智能系统。同时，必须根据对系统的潜在影响的大小来验证和加强这种信心。 OpenAI 最近关于人工智能的声明指出，在开始训练未来系统之前，它可能必须接受独立审查，并且为了最先进的努力，同意限制用于创建新模型的计算增长率。我们同意现在是采取行动的时候了。
因此，我们呼吁所有人工智能实验室立即暂停训练强于 GPT-4 的人工智能系统至少 6 个月。这种暂停应该是公开的、可验证的，并且包括所有关键参与者。如果这样的禁令不能迅速实施，政府应该介入并暂停。
AI 实验室和独立专家应在暂停期间共同开发和实施一套用于高级 AI 设计和开发的共享安全协议，并接受独立外部专家的严格审查和监督。这些协议应确保遵循该协议的系统是安全的。值得一提的是，这并不意味着暂停通用人工智能开发，只是从危险的赛跑中退一步，限制不可预测的研发。
AI 研究和开发应该重新聚焦于使当今可用的最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠实。
与此同时，AI 开发人员必须与政策制定者合作，以显着加快强大的 AI 治理系统的开发。这些至少应包括： AI 特定监管机构；监督和跟踪。Ø 强大的人工智能系统和硬件，具有超大的计算能力；出处和水印系统，以帮助区分真实的和合成的，并跟踪模型泄漏；强大的审查和认证生态系统；对人工智能造成的伤害负责；人工智能研究的安全技术提供了强大的公共资金和资源充足的机构来解决人工智能可能造成的巨大经济和政治破坏。
人类可以通过人工智能享受繁荣的未来。现在，我们在创建强大的 AI 系统方面取得的成功可以在这个“AI 之夏”中获得回报，设计这些系统是为了所有人的明显利益，并为社会提供适应的机会。停止使用其他技术可能会对社会造成灾难性影响，因此我们必须做好准备。让我们享受一个漫长的 AI 夏天，而不是匆忙进入秋天。
< /p>
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
