流行的聊天机器人 ChatGPT 的创建者 OpenAI 发布了一个“不完美”的软件工具来识别人工智能生成的文本，因为学术界和教学界越来越担心它的工具可能会导致广泛的作弊。
它让初创企业能够向正在兴起的军备竞赛的双方进行销售，这场竞赛可能会超越课堂，延伸到试图传播和检测诸如由 AI 生成的内容助长的在线错误信息活动等事物的人们。
< figure class="_3ujPS _3x3-4 RMwbY _2XZQH" data-testid="image">
聊天 GPT 是一种语言处理 AI 模型，能够生成类似人类的文本，例如论文。Credit:iStock
ChatGPT 是一种免费的在线工具，可根据提示生成文本，包括文章、散文、笑话甚至诗歌，自去年 11 月首次亮相以来广受欢迎。
AI 分类器，一种语言模型 tr基于同一主题的人工编写和 AI 编写的文本对的数据集，旨在区分 AI 编写的文本。但 OpenAI 最近从微软获得了数十亿美元的投资，行业出版物称其对该公司的估值为 290 亿美元（410 亿美元），它警告说其工具有一系列严重的局限性。
在测试中, OpenAI 表示其分类器在 26% 的情况下正确识别了 AI 编写的文本，但在 9% 的情况下将人类编写的段落描述为“可能是 AI 编写的”。它在 1000 个字符以下的文本上也非常不可靠，可以编辑 AI 编写的文本以欺骗分类器。
加载负责使其系统更安全的 OpenAI 对齐团队负责人 Jan Leike 警告说，该系统是并非万无一失，告诉美联社检测 AI 编写的文本的方法“不完美”，有时会出错。
“在做决定时不应该完全依赖它，”Leike 说。
据报道，澳大利亚的大学已经标记出更多地使用笔试和纸质测试等传统评估类型，以防止学生让 ChatGPT 为他们代写论文。许多澳大利亚学校，包括新南威尔士州的公立学校，都禁止使用 ChatGPT。但一些澳大利亚学者呼吁教导学生使用 AI 作为他们在工作场所可能会遇到的工具。
广告已经有多种工具可用于检测 AI 文本，准确度各不相同。一个名为 Hugging Face 的人工智能研究小组创建了一个工具，普林斯顿研究员 Edward Tian 创建了另一个名为 GPTZeroX 的工具。
据报道，澳大利亚大学已表示更多地使用笔试和纸质测试等传统评估类型，以防止学生让 ChatGPT 为其代写论文。< cite class="ojLwA">Credit:istock
OpenAI 在博客文章中表示，他们正在以“测试版”形式提供检测工具，以测试是否
“我们认识到识别 AI 编写的文本一直是教育工作者讨论的一个重要问题，同样重要的是认识到 AI 生成的文本分类器在课堂上的局限性和影响。”
OpenAI 表示正在与教育工作者合作，讨论 ChatGPT 的功能和局限性，并将继续致力于检测 AI 生成的文本。
Loadingwith Reuters
< p>每周五在我们的技术时事通讯中获取有关技术、小工具和游戏的新闻和评论。 在这里注册。澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联