最近几天，这家也许是世界上最重要的公司发生了彻底的混乱。 OpenAI 非常富有的首席执行官萨姆·奥尔特曼 (Sam Altman) 突然被免职。有人抗议，有人辞职。任命了临时首席执行官。然后，临时首席执行官没有被任命，而年仅 38 岁的 Altman 又回来了。
也许这对你来说听起来像是企业琐事；但事实并非如此。十天前奥特曼被解雇时，我也被解雇了。但在试图理解发生了什么以及为什么它如此重要时，我第一次感觉到，我怀疑很快就会成为人类的普遍经历：对人工智能从根本上改变我们的世界的潜力的恐惧。 当 Altman 被解雇时，我第一次感觉到我怀疑的事情很快就会发生成为一种常见的人类经历。信用：Joe Benke
Altman 本人对风险存在的事实持开放态度，但乐观的。总的来说，他给人的印象是明智而理智的。在 6 月份接受彭博社艾米丽·张 (Emily Chang) 采访时，当被问及他在这家价值 860 亿美元的公司中没有财务股份这一不寻常的事实时（从技术上讲，OpenAI 是一家非营利组织，一个营利性机构），他说大多数人都很难理解“足够的钱”的概念。
值得注意的是，他用了其中一些钱来为灾难做准备。 2016年，在他领导一个人工智能项目之前，他将流行病、核战争和“攻击我们”的人工智能列为可能的灾难。他尽量不去想太多，“但我有枪、黄金、碘化钾、抗生素、电池、水、以色列国防军的防毒面具，还有大苏尔的一大片土地我可以飞去。”这一事实可能会影响你对他所宣称的乐观态度的重视程度。
在今年早些时候接受《大西洋月刊》采访时，他淡化了这种准备工作作为一种爱好。但他说了一些更可怕的话：他的公司已经开发出了他们永远不会发布的人工智能——因为它太危险了。
正在加载这一事实在最近几天再次出现，成为他被解雇的一个可能原因。被解雇：路透社周四报道称，研究人员已写信给董事会，警告他们这种新的人工智能可能会威胁人类。 （我假设这是同一个人工智能。如果不是，该公司有两个独立的人工智能模型被认为是危险的。我希望不是；一个似乎就足够了。）
这种“危险的人工智能”是我选择的原因之一。从跳过有关人工智能的文章到认真对待警告。 （正是在阅读罗斯·安徒生的那篇文章时，我第一次感到恐惧：下面是最让我害怕的一些内容。）
第二个是人工智能领域的人所使用的戏剧性语言（他们正在努力实现通用人工智能（更接近人类智能），即使他们很积极。奥特曼告诉张，很多人谈论人工智能就好像它是最后一次技术革命。 “我怀疑从另一面看它会像第一个”。
广告第三是速度。 “我认为这项技术最重要的一点是，”奥特曼说，“我们正处于指数曲线上，而且是相对陡峭的曲线，人类对指数曲线的直觉非常糟糕……”
加载第四个是人工智能机器协同工作的想法。另一位 OpenAI 董事会成员（在奥特曼惨败后被替换）告诉《大西洋月刊》，他们观看人工智能机器人玩视频游戏：一起完成复杂的任务，似乎通过“心灵感应”进行交流。从规模上看，单个人工智能组织的力量可能相当于 50 个谷歌：“令人难以置信的破坏力”。
第五是人工智能欺骗我们的能力——更险恶的是，它会发展出欺骗的意图。我们。一些人工智能已经学会了通过撒谎来赢得比赛或有效地完成任务。
一项技术进步得太快，我们无法掌握，它所带来的变化如此之大，以至于将重塑世界，并且具有即时协作的能力。欺骗我们他们正在这样做——而且我们知道它的创造者认为至少有一个太危险而不能释放。
对于一些人来说，这些都是生存因素：他们相信人工智能可能会毁灭我们。我认为你不必走那么远：对我来说，现在和不久的将来之间存在巨大的、难以理解的鸿沟的想法已经足够面对了。
加载这也是三个主要的政治挑战。奥尔特曼告诉《大西洋月刊》，他在世界各地遇到了一些人，他们担心有些人会变得非常富有，而大多数人会变得非常贫穷。正如彼得·哈彻（Peter Hartcher）今年早些时候所写的那样，许多白领工作很可能会再次以前所未有的速度和规模消失。
现在 - 第三个挑战 - 想象一下对这些事件的愤怒强大的人工智能出于政治目的而放大和操纵。历史学家蒂莫西·斯奈德 (Timothy Snyder) 曾写道，在 2016 年美国总统选举中，俄罗斯机器人发挥了当时很少有人意识到的作用。他描述了互联网的方式——与旧的宣传形式不同——似乎是无中介的，信息“在我们不经意间就在我们体内”。当人们说服自己他们独立投票时，这种意识的缺乏可能会持续存在。人工智能机器人仍然会更有效。
不过，你不需要任何这些来到达一个严峻的地方。你所需要的只是想想近年来科技的影响：大量的优势，以及巨大的、改变世界的问题：虚假信息、两极分化、缺乏安全感的工人、原子化、抑郁症、特朗普。无论大型科技带来什么问题，它都会大规模地引入，速度太快，以至于我们无法采取行动。
现在考虑一个事实，在谈论人工智能时，这种规模的问题排在最底层。担心。
这并不全是坏事。奥特曼认为人工智能将“消除贫困”，显着改善各地的医疗保健，改善教育。但潜在的缺点非常大。我已经不再跳过有关人工智能的新闻了，我想你也应该这么做。
肖恩·凯利 (Sean Kelly) 是《游戏：斯科特·莫里森的肖像》一书的作者，他是一名定期专栏作家，也是朱莉娅·吉拉德和凯文的前顾问路德。
意见时事通讯是每周一次的观点总结，它将挑战、支持和告知您自己的观点。在这里注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联