在新药投放市场之前，它会经过重要的试验和测试。它受监管，由政府机构评估，由医生开处方并在药房配药。
在离家较近的地方，在您的隔壁邻居可以在他们的房子上加二层之前，它经过了规划审批流程以确定其结构效能，并审视其对社区和邻近物业的舒适度的影响。
人工智能的力量未知，这就是我们需要监管的原因。图片来源：Marija Ercegovac
作为一个社区，我们期望在安全、福祉和风险缓解方面进行制衡。奇怪的是，我们大多数人都乐于接受新技术而没有同样的顾虑，或者似乎没有任何监管监督的期望。
现在是时候质疑为什么一方面我们开始信任不受监管的技术，但另一方面，我们也承认，在最极端的情况下，我们才会考虑从萨满那里为生病的孩子买药，而萨满声称可以提供藏在他们汽车后备箱中的治疗方法。
许多我们每天消费的科技产品都是免费的、随时可用的、易于使用的，而且看起来无害。正因为如此，我们让 Facebook 和 Instagram 观察我们的私人生活，TikTok 捕捉我们与孩子的愚蠢舞蹈视频，Google 和 Bing 记录我们搜索的一切。
现在的产品，例如 ChatGPT、Bard等生成式人工智能工具和大型语言模型已经进入我们的生活。与他们年长的技术兄弟一样，我们允许更聪明、更强大的陌生人跳华尔兹舞曲进入我们的家，而无需出示任何证件。
让我们明确一点：这些产品并非无害。尽管许多受人尊敬的学者和研究人员多年来一直在撰写和谈论 AI 的风险，但只有当 AI 的“教父”之一 Geoffrey Hinton 抓住海螺壳时，更广泛的社区才开始倾听。 Hinton 是一名神经科学家和计算机科学家，最近辞去了他在 Google 的工作，表达了他的担忧。
想象一下，Hinton 在一个实验室工作，研制了一种流感疫苗，两年后他向全世界承认了这一点导致出生缺陷。一切都会崩溃。相反，Hinton 和其他人创造了无定形的技术产品，超出了我们大多数人的想象，他现在承认这些产品构成了对人类存在的严重后果的生存威胁。
广告< /small>自离开 Google 后，Hinton 曾表示 ChatGPT 等“大语言”模型将导致假新闻增多，虚假信息、分裂以及提供的信息会像毒品一样激起义愤填膺。
加载虽然生成式 AI 还没有（还）对我们的身体健康构成直接威胁，但任其自行其是，它对社会的危害可能与不受管制的药物或非法建造的公寓楼一样危险。
我们多年来一直在观察科技巨头先行者所获得的优势。这些早期的拓荒者保卫了他们的土地，并在他们的城堡周围修筑了几乎坚不可摧的护城河。他们深深植根于我们的社区和我们的心灵。我们应该毫不怀疑，他们将继续利用他们的专业知识和财力来领导人工智能军备竞赛，而且这不应该不受控制地发生。
令人高兴的是，政府——包括我们自己的政府——开始坐下来起来并注意风险。奥尔巴尼政府的澳大利亚安全和负责任的 AI 讨论文件提供了一个机会，可以提出担忧和传播新想法。
我们应该考虑早期干预——最好是在这些产品投放市场之前。我们不需要了解 Panadol 如何或为何减轻我们的头痛，因为我们知道它已经通过了严格的测试。
加载人工智能的情况恰恰相反；我们不了解它是如何工作的，这就是为什么我们需要更好的测试和适当的法律保护，然后再将其发布给毫无戒心的公众。至少我们应该考虑实施公司处罚，类似于澳大利亚工作健康安全法规定的董事责任，以便那些负责生产这些产品的公司的掌舵人被迫停下来反思。
当然，现有法律可以解决人工智能带来的一些挑战。我们应该走在前面，现在就使用这些工具，并为我们的监管机构提供充足的资源。
鉴于大型科技公司在垄断权力、问责制问题和透明度失败方面的记录，世界各国政府显然需要加强重新平衡权力并保护普通公民的利益。
Emma McDonald 是 Minderoo Foundation 前沿技术计划的负责人。 Minderoo Foundation 通过与悉尼科技大学、加州大学洛杉矶分校和剑桥大学的合作伙伴关系支持 AI 研究工作。
Opinion 时事通讯是一份每周总结的观点，这些观点将挑战、支持和告知您自己的观点。 在这里注册。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联
