计算机没有同情心。软件不敏感。而人工智能缺乏情商。机器人债务灾难生动且悲惨地说明了所有这一切。但从该计划的失败来看，这是一个重要的机会，可以帮助确保这种情况不再发生——澳大利亚的政策制定者现在应该用双手抓住这个机会。
如果我们要委托人工智能做出重要的决策，那么可以——如果不正确——造成真正的、重大的伤害，那么人类的监督就至关重要。这些制衡措施应在公共和私营部门进行监管。
计算机说不：日内瓦大学的接待员机器人 Nadine 在人工智能峰会上7 月 6 日，瑞士。图片来源：Getty
机器人债务丑闻不应像一些人担心的那样，推迟政府数字化进程多年来的采用和创新。现在是通过建立明确的护栏来加强数字政府运作的时候了。但这只能通过在大型数字项目的开发和实施中体现人类监督和有效治理、嵌入同情心、敏感性和情商来实现。最重要的是，必须重建公众信任。
正如皇家委员会针对机器人债务计划的报告所明确强调的那样，在调查该计划的数据匹配差异时，几乎没有人在掌控。 ，实际上放弃了手动审核。最终，这导致了至少 27% 的惊人错误率。虽然我们永远不知道如果有效的监督措施到位，是否会采取修复行动来纠正如此巨大的错误率，但可以公平地假设，至少这样不可接受的失败率会更早地出现——以及可能挽救的生命和许多不必要的痛苦。
重要的是，现在有明确的授权要求做到这一点。作为广泛调查结果的一部分，皇家专员凯瑟琳·霍姆斯提出了几项与数据匹配和交换以及自动决策相关的关键建议。
加载这些非常明智的建议包括立法改革和监管实施引入政府服务运作的一致法律框架；建立监督机构来监督和审计自动化决策；以及加强与数据匹配计划相关的治理。
实施这样的变革并不容易，阻力也将很激烈，但对于未来的监管来说，现在是最令人心酸的时刻。此外，此类改革不应仅限于政府——大型科技公司和澳大利亚企业也有责任，它们正在投资数十亿美元用于人工智能的开发和实施。
澳大利亚政策制定者在应用立法方面历来落后。以及建立技术护栏的监管措施。自愿守则、最佳实践指南和操作原则令人眼花缭乱，但缺乏规范性和约束力的立法和法规。
就人工智能而言，情况仍然如此。尽管联邦政府目前正在就其“澳大利亚安全和负责任的人工智能”讨论文件进行咨询，但有效监管公共和私营部门人工智能的任何决定性措施仍然模糊。这与其他司法管辖区形成鲜明对比，特别是欧盟，欧盟正处于通过人工智能立法的最后阶段。
这项法案花了数年时间才有效完成，预计将在到 2023 年底生效。它采用基于风险的人工智能监管方法，为其他立法者提供了可遵循的清晰蓝图。重要的是，该法案在人工智能技术带来的显着效益、其带来的道德困境以及鼓励道德创新而不抑制经济增长的需要之间取得了平衡。这是一种有效监管人工智能的审慎、务实且可实施的方法。
人工智能并不坏——使用这些多样化且不断发展的技术可以带来很多好处。效率得到了提高，优化得到了加强，我们的日常生活也变得更加简单。
但是，就像任何复杂的技术一样，存在着巨大的滥用空间。特别是，生成式人工智能（Generative AI）——目前该技术最引人注目的迭代——清楚地说明了人工智能可以被利用的恶意目的——深度造假、语音克隆和复杂的诈骗等等。
加载最终，人工智能的好坏取决于运行它的算法、训练它的数据以及支撑它的法律。如果这些措施无效，就像机器人债务的情况一样，那么灾难就会随之而来。
因此，人力制衡和强化监督必须成为在澳大利亚建立有效和道德的人工智能生态系统的基石。为了支持这一点，需要在公共和私人层面实现算法透明度，并制定立法和监管规定，以确保强化治理。
Rachael Falk 是网络安全合作研究中心的首席执行官，澳大利亚 2023-30 网络安全战略联邦政府专家咨询委员会成员。
《意见》时事通讯是每周一次的观点总结，将挑战、支持和告知您自己的观点。 在此处注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联