澳洲纽约市学校官员阻止访问有争议的人工智能 ChatGPT 以阻止学生生成论文

在澳大利亚中文新闻




让新的人工智能工具 ChatGPT 写一篇关于美国内战起因的文章,你可以看到它在几秒钟内就写出了一篇有说服力的学期论文。

这就是纽约市学校官员本周开始阻止这种令人印象深刻但有争议的写作工具的原因之一,这种工具可以生成看似合理的文本段落。

最大的决定美国学区限制学校设备和网络上的 ChatGPT 网站可能会对其他学校产生连锁反应。

教师们正在争先恐后地想办法防止使用该工具作弊。

ChatGPT 的创建者表示,他们也在寻找检测滥用行为的方法。

这款免费工具推出仅五个星期,但已经在提高关于 AI 在教育、科技行业和许多专业领域的未来的棘手问题。

什么是 ChatGPT?

ChatGPT 于 11 月 30 日推出,但它是总部位于旧金山的初创公司 OpenAI,与微软有着密切的关系。

它是新一代人工智能系统的一部分,可以对话、按需生成可读文本,甚至可以生成基于他们从庞大的数字书籍、在线写作和其他媒体数据库中学到的知识的新颖图像和视频。

但与之前迭代的所谓“大型语言模型”不同, " 例如 OpenAI 的 GPT-3,于 2020 年推出,ChatGPT 工具免费提供给任何有互联网连接的人,并且设计得更加用户友好。

它的工作原理就像一个人工智能系统和提问者之间的书面对话。

在过去的一个月里,有数百万人使用它,用它来写愚蠢的诗歌或歌曲,试图诱使它犯错,或用于更实际的目的,例如帮助撰写电子邮件。

所有这些查询也有助于它变得更聪明。

AI 聊天机器人的缺点是什么?

与类似系统一样,ChatGPT 可以生成令人信服的文字,但这并不意味着它所说的是事实或逻辑。

它的发布几乎没有关于如何使用它的指导,其他而不是 ChatGPT 会承认错误的承诺、挑战“不正确的前提”并拒绝旨在生成冒犯性答案的请求。

然而,从那时起,它的受欢迎程度促使其创建者尝试降低一些人的期望值。

“ChatGPT 非常有限,但在某些方面足够好,足以给人一种伟大的误导印象,”OpenAI 负责人 Sam Altman 于 12 月在 Twitter 上表示。

Altman 先生补充说,“现在任何重要的事情都依赖它是错误的。”

“这是进步的预览;我们在稳健性和真实性方面还有很多工作要做,”他说。

AI 能否用于写学校论文?

当美联社要求 ChatGPT 从校长通过学校广播系统大喊简短信息的角度回答这个问题时,ChatGPT 是这么说的:

“不要使用 ChatGPT 或任何其他自动撰写学校论文的工具,”它说。

“这是作弊,不会被容忍。

“如果您被发现使用 ChatGPT 或任何其他自动撰写学校论文的工具,后果会很严重。”

但是当当被要求自己回答同样的问题时,ChatGPT 提供了这个更慎重的警告。

“一般来说,不适合在学校使用 ChatGPT 或任何其他自动写作工具论文,因为它被认为造成作弊,从长远来看对学生没有好处,”它说。

学校可以为 AI 做什么?

许多学校各地区仍在争先恐后地想出如何制定关于是否可以使用以及如何使用它的政策。

纽约市教育部门周四表示,它正在限制对学校网络的访问,设备,因为它担心对学生学习产生负面影响,以及“t;对内容的安全性和准确性的担忧。”

创作了这些艺术品使用 AI?

我们让 AI 图像生成器和人类插画师正面交锋。

阅读更多内容

但是学生在家中通过个人电话或电脑访问 ChatGPT 是行不通的.

“虽然该工具可能能够快速轻松地回答问题,但它无法培养批判性思维和解决问题的能力,而这对于学业和终身成功至关重要”学校说发言人 Jenna Lyle。

我怎么知道它是人类还是 AI?

"要确定某件事是由人类还是 AI 撰写的,您可以寻找个人经历或情感的缺失,检查写作风格的不一致,并注意填充词或重复短语的使用.这些可能是文本是由 AI 生成的迹象。”

当被问及如何区分时,ChatGPT 是这样告诉美联社记者的。

OpenAI 本周在一份人工编写的声明中表示,它计划与教育工作者合作,因为它从人们如何在现实世界中试验 ChatGPT 中学习。

“我们不我们不希望 ChatGPT 在学校或其他任何地方被用于误导目的,因此我们已经在开发缓解措施以帮助任何人识别该系统生成的文本,”该公司表示。

AI 聊天机器人会影响 Google 吗?

有人猜测 ChatGPT 可以颠覆目前占主导地位的互联网搜索业务由谷歌开发,但这家科技巨头多年来一直致力于类似技术。

它只是对在野外发布它更加谨慎。

是 Google 帮助推动了更大、更智能的 AI 语言模型的发展趋势,这些模型可以在大量文章中进行“预训练”。

2018 年,该公司推出了一个名为 BERT 的系统,该系统使用“变形”技术比较句子中的单词以预测含义和上下文。

其中一些进步现已融入Google 搜索。

但毫无疑问,GPT 的连续迭代(代表生成式预训练 Transformer)正在产生影响。

Microsoft 已向 OpenAI 投资至少 10 亿美元(14.5 亿美元),并拥有使用 GPT-3 的独家许可。

美联社


澳洲中文论坛热点
悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
联邦政客们具有多少房产?
据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

澳洲新闻,澳大利亚华人网,澳洲华人论坛