麻省理工学院的一位生物安全专家最近向他的学生提出挑战，要求他们使用公开的生成人工智能 (AI) 工具来识别能够引发大流行的病毒。学生们只花了一个小时就列出了四种候选病毒。
与人工智能为社会做出贡献的潜力相比，几乎每天都会有新的担忧发布，担心它有可能被用来设计强大的化学毒素，在未经演员同意的情况下用他们的肖像替换演员，实施无法察觉的骗局，在选举期间传播错误信息并制造自主武器。
“因为人工智能很难监管，我们是否应该什么也不做？不。”澳大利亚前首席科学家艾伦·芬克尔。图片来源：Eamon Gallagher
几乎每天都会发出要求监管的呼声。欧洲议会已批准了全面的法律草案，如果立法，将限制人工智能的使用，并强制规定人类监督、数据质量和问责制的作用。欧洲公司正在抵制，担心拟议的立法不能有效应对人工智能风险，并会损害欧洲企业的竞争力。
监管机构的麻烦在于，马已经逃跑了。人工智能无处不在。高度诚信的组织将遵守法规，他们将尽职尽责地为自己的产品贴上标签。但是，规则不可避免地会被犯罪组织、恐怖组织和流氓国家忽视。
雪上加霜的是，如果一些国家对发展踩刹车，其他有支持恐怖主义和发展核武器历史的国家也会陷入困境。不理会号召，在人工智能竞赛中领先。
加载中人工智能很难监管，我们是否应该袖手旁观？不。风险如此之大，我们集体把头埋在沙子里并不是解决办法。技术领导者呼吁暂停人工智能开发并不是答案。只影响善意、诚信的人工智能开发者和用户的法规并不是答案。
也许答案来自于横向思考。我们可以从 1970 年生效的《核不扩散条约》中学到什么？
虽然并不完美，但它减缓了核武器的扩散，如今的核武库约为 50 时的五分之一。几年前。该条约之所以成为可能，是因为开发核武器的成本和规模如此之大，以至于国际审计小组和卫星监视可以对发射井、反应堆和浓缩设施等受监管目标进行监控，以验证其遵守情况。问题没有解决，但我们已经享受了几十年的喘息机会。
广告人工智能技术领域的同等监管目标是生产对人工智能算法运行至关重要的微芯片的设施。这一点得到了美国政府的充分认可，美国政府不仅对向中国出口先进微芯片，而且还对制造这些芯片的生产设备实施惩罚性限制。
虽然众所周知，芯片的尺寸和尺寸因斯几十年来，微芯片上的晶体管数量一直在缩小，但鲜为人知的是，制造功能日益强大的微芯片的制造工厂的规模和成本一直在无情地上升，建设现代化制造工厂的成本估计为最少 30 亿美元，最多 200 亿美元。这些庞大而复杂的工厂规模庞大，国际审计团队可以轻松监控。
正在加载要取得成功，人工智能防扩散条约必须得到每个技术先进国家或司法管辖区的同意，包括美国、中国、欧洲、台湾和许多其他国家，尽管每个国家的国防界都提出了一定的反对意见。不能允许例外，因为不参与将在技术军备竞赛中获得巨大优势。
条约最重要的细节之一是就不应超出的能力水平达成一致。这个定义必须非常简单，这样才不会被含糊地解释。例如，能力水平可以定义为每个微芯片的晶体管的最大数量。可能会同意不超过 1000 亿的限制。
当然，我们的智能手机、银行系统和卫星导航系统需要计算机微芯片。但我们是否需要极其强大的微芯片来为生成式人工智能提供动力？充足力量和最终力量之间的界限是什么？我们会放弃什么来换取防止人工智能被恶意使用的保护？
是时候选择核选项了吗？图片来源：Getty/Supplied
与应对气候变化的努力一样，国际防扩散协议的谈判也需要大规模的合作。鉴于人工智能的爆炸性发展速度，国际社会不能拖延。为了让国际商定的方法在人工智能海啸再次翻倍或四倍之前发挥作用，目标是在一两年内谈判达成协议。为了承认这种方法的新颖性，该协议将在五年左右的时间间隔后触发自己的重新谈判。
谁将在人工智能不扩散条约的谈判中发挥领导作用？这是一项集体责任，澳大利亚当然可以为此做出贡献。
艾伦·芬克尔是澳大利亚神经科学家、发明家、研究员、企业家、教育家、政策顾问和慈善家。他于 2016 年至 2020 年期间担任澳大利亚首席科学家。
《意见》时事通讯是每周一次的观点总结，将挑战、支持和告知您自己的观点。 在此处注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联