管理层告诉我们，我们应该在工作中利用人工智能来“提高效率”。起初我很不愿意，但一位朋友告诉我，聊天机器人在某些任务上的用处会让我感到惊讶，所以我决定尝试一下。
首先，我印象深刻。然后我问了一个与我的工作和专业领域非常具体的问题相关的问题。答案包括几个专利错误。我在聊天中指出了这一点，然后发生了一场奇怪的谈话。人工智能否认它是错误的，当我礼貌地解释它的错误时，它试图对我进行攻击。我是不是被人工智能语言模型欺骗了？
AI 聊天机器人可能复杂而圆滑，但它们远非可靠的来源信息。信用：美联社
我认为你所经历的事情很常见。不仅是积极的初步印象，随后意识到令人眼花缭乱的流畅性和反应能力有时掩盖了主要弱点，而且还面临着看似欺骗的情况。
我询问了大学副教授刘灵桥博士阿德莱德计算机科学学院的教授和澳大利亚机器学习研究所的学术成员，讲述了这些错误是如何发生的。
“大型语言模型 [LLM] 是强大的工具，在生成人类语言方面表现出了非凡的能力。像文字一样。然而，像所有人工智能技术一样，它们也有局限性。法学硕士面临的一项挑战是确保事实准确性。
正在加载“按照设计，这些模型不是事实的存储库，而是模式识别系统，可根据从大量数据集得出的概率生成响应。虽然它们可以模仿事实话语的风格和结构，但生成的内容本质上是概率性的，不能保证真实。在研究界，法学硕士的事实不正确或无意义的反应通常被称为‘幻觉’。”
刘说，开发人员和研究人员正在研究提高法学硕士提供信息的准确性的方法。 “这包括完善训练数据集、实施事实检查机制以及开发协议，使模型能够获取并引用最新且可靠的信息。”
根据我自己的经验，我发现这些法学硕士支持的一些助手在回答可能需要几次甚至几十次传统浏览器搜索的问题时非常有用。但是，和您一样，我也注意到了一些不准确的地方，并且经常出现奇怪的逃避。
广告我曾经向一个聊天机器人询问公司流行语的起源，得到的答复包括这样一句话：“我的前同事露西·凯拉韦说……”这看起来真的很奇怪。
<经过快速挖掘后，我们发现人工智能助手显然是从《卫报》的一篇文章中引用了这句话，并用它来回复我——不是引用，而是好像露西·凯拉韦实际上是他们的同行。当我问起这个问题时，他们的回答几乎是滑稽的搪塞。事实并非如此确实是故意撒谎或故意撒谎。这只是复杂的模仿。
那么，聊天机器人是否对你（和我）撒了谎，然后试图给我们加油？嗯，可能是这样的感觉。我记得对我看来的剽窃行为感到震惊，对那些含糊其词的解释感到愤怒。
但是，正如 Melissa Heikkilä 最近在《麻省理工学院技术评论》中所写，我们应该谨慎对待我们假设的代理机构有多大。人工智能：“即使是人工智能这一技术的名称，也具有悲惨的误导性。语言模型看起来很聪明，因为它们通过预测句子中的下一个单词来生成类似人类的散文。该技术并不是真正的智能，并且称它巧妙地改变了我们的期望，因此我们认为该技术比其实际能力更强大。”
这并不是真正的故意撒谎或故意煤气灯。这只是复杂的模仿。至少在技术发展的现阶段是这样。
通过电子邮件将您的问题发送给工作治疗 [email protected]。
商业简报时事通讯提供主要故事、独家报道和专家意见。 注册即可在每个工作日早上获取它。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联