Elon Musk 和一群人工智能专家和行业高管呼吁暂停六个月开发比 OpenAI 新推出的 GPT-4 更强大的系统，在一封公开信中列举了潜在风险社会。
本月早些时候，微软支持的 OpenAI 推出了其 GPT（生成式预训练变压器）AI 程序的第四次迭代，该程序通过让用户参与类似人类的活动而大受好评对话、创作歌曲和总结冗长的文件。
“只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统，”信中说由未来生命研究所发行。
该非营利组织主要由马斯克基金会、总部位于伦敦的 Founders Pledge 集团和硅谷社区基金会资助，据称欧盟的透明度登记册。
“人工智能让我压力山大，”马斯克本月早些时候表示。他是行业领导者 OpenAI 的联合创始人之一，他的汽车制造商特斯拉将人工智能用于其自动驾驶系统。
马斯克先生——他对监管机构的监管努力表示失望自动驾驶系统——已寻求监管机构确保 AI 的发展服务于公众利益。
“考虑到特斯拉的努力，Elon Musk 签署协议是……非常虚伪的康奈尔大学数字和信息法教授 James Grimmelmann 说，反对对其自动驾驶汽车中有缺陷的人工智能追究责任。
“暂停是个好主意，但信含糊不清，没有认真对待监管问题。”
在美国监管机构表示驾驶员辅助系统可能导致崩溃，促使马斯克先生在推特上说，无线软件更新的“召回”一词“不合时宜，完全错误！”
Outnumber, outsmart, obsolete
OpenAI 没有立即回应对公开信发表评论的请求，该公开信敦促暂停高级人工智能直到共享安全协议被独立专家开发出来，并呼吁开发人员与政策制定者合作进行治理。
“我们应该让机器用宣传和谎言淹没我们的信息渠道吗？ ......我们是否应该开发最终可能超过我们、智胜我们、过时并取代我们的非人类思维？”信中问道，并表示“此类决定不得委托给未经选举的技术领导者。”
这封信由 1,000 多人签署，其中包括马斯克先生。
OpenAI 首席执行官山姆奥特曼不在签署这封信的人之列，Sundar Pichai 和首席执行官 Satya Nadella 也不在其中Alphabet 和微软的高管。
ChatGPT 启动 OpenAI 发布 GPT-4，一个强大的“多模式”聊天机器人
初创科技公司 OpenAI 表示，它正在发布一个名为 GPT-4 的强大人工智能模型，设置类人技术扩散的舞台以及其支持者微软和 Alphabet 的谷歌之间的更多竞争。
联合签署人包括 Stability AI 首席执行官 Emad Mostaque、Alphabet 旗下的 DeepMind 的研究人员，以及AI 重量级人物 Yoshua Bengio（通常被称为“AI 教父”之一）和 Stuart Russell（该领域的研究先驱）。
ChatGPT 引起了人们的关注受到美国立法者的关注，并质疑其对国家安全和教育的影响。
欧盟警察欧洲刑警组织周一警告称，该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。
与此同时，英国政府公布了围绕人工智能的“适应性”监管框架提案。
人工智能竞赛
“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解后果， ”签署这封信的纽约大学教授加里·马库斯说。
“大公司对他们正在做的事情越来越保密，这使得社会很难抵御任何东西危害可能会成为现实。”
自去年发布以来，OpenAI 的 ChatGPT 促使竞争对手加速开发类似的大型语言模型，包括 Alphabet Inc 在内的公司都在竞相将其产品浸入 AI 中。< /p>
投资者对依赖单一公司持谨慎态度，正在拥抱 OpenAI 的竞争对手。
微软拒绝对这封信发表评论，Alphabet 也没有透露回复电话和电子邮件征求意见。
“开发这些系统的很多权力一直掌握在少数合作者手中拥有资源的公司，”布朗大学教授、白宫科技政策办公室前助理主任 Suresh Venkatasubramanian 说。
“这些模型就是这样，它们很难建设，也很难民主化。”
路透社
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联